Umetna inteligenca v GRC: navajanje vira ni preverjanje

Agent umetne inteligence prebere varnostno politiko, najde ustrezen odstavek in zahtevo označi kot izpolnjeno. Njegova razlaga zveni verjetno in vsebuje povezavo do vira. Toda katera sprememba zahteve ali dokazila bi spremenila to oceno?

Nedavne raziskave o upravljanju, tveganjih in skladnosti (GRC) to vprašanje naredijo neizogibno. Model lahko da pravilen odgovor iz napačnega razloga, navede pristen vir, ki pa se nanaša na napačen sistem, ali zamenja zapisano politiko z učinkovito kontrolo. V Secani to razumemo kot izziv pri oblikovanju izdelka: povezava med zahtevo, opažanjem in odločitvijo mora biti odprta za pregled.

Preverite, ali je ocena odvisna od pravila

Prednatis Verdict Without the Rule ohranja primer nespremenjen, medtem ko veljavno pravilo izbriše, zamenja ali zanika. Pri petih lokalno zagnanih modelih in 20 področjih je izbris pravila spremenil oceno v povprečju le v 5,3 odstotka primerov. Nespremenjena ocena ni samodejno napačna: različna pravila lahko vodijo do istega izida. Toda pravilen odgovor sam po sebi ne more dokazati, da je sistem uporabil podano pravilo.

To zahteva pregledane pare primerov, ne le meril z enim samim odgovorom. Če se zahteva po pregledu dostopov spremeni iz četrtletnega v mesečni, razpoložljivi dnevniki pa ostanejo enaki, se mora ocena morda spremeniti. Preoblikovanje iste zahteve brez spremembe pomena pa mora oceno pustiti nespremenjeno. Pomembna sta oba odziva.

Ločite pokritost politik od operativnega dokaza

PACE loči iskanje ustreznih odlomkov politik od ocene, ali ti varnostno zahtevo pokrivajo v celoti, delno ali sploh ne. Poročani rezultati se nanašajo na pokritost dokumentacije, ne na to, ali opisani ukrepi v praksi delujejo. Politika lahko zahteva večfaktorsko avtentikacijo za privilegirani dostop, ne da bi dokazovala, kateri računi so tehnično zaščiteni ali katere izjeme obstajajo.

ReCon dokumentira še preprostejšo napako: v nekaterih primerih modeli besedilo zahteve, vključeno v poziv, obravnavajo, kot da bi šlo za dokazilo podjetja. Zahteve in zapisi podjetja zato potrebujejo ločeni identiteti v podatkovnem modelu. Navedba vira mora kazati na odlomek, ki trditev dejansko podpira.

To razlikovanje naredi ugotovitve uporabne za ukrepanje. „Politika obstaja, vendar za tri privilegirane račune manjkajo tehnična dokazila“ svetovalcu pove, kaj mora raziskati. „Delno skladno“ tega ne pove.

Preverite razmerje, ne le vira

Cevovod v From Legacy Documentation to OSCAL iz opisov sistemov izlušči sredstva in s pomočjo strukturiranih obveščevalnih podatkov o grožnjah ustvari artefakte skladnosti. Njegova analiza napak kaže, zakaj lahko resničen vir kljub temu podpira napačen sklep: če je sredstvo izluščeno napačno, lahko poznejše poizvedbe vrnejo resnične ranljivosti za drug izdelek.

Človeški pregled je najdragocenejši prav pri takšnih povezavah z velikim vplivom: pri različici izdelka, meji sistema, lokaciji ali dodelitvi kontrole, od katere so odvisne številne poznejše ugotovitve. Izluščen predlog mora ostati razločljiv od potrjene postavke v popisu. Ko je temeljna povezava popravljena, morajo biti izpeljane ocene sledljive.

Dokazilom dajte obseg in časovno okno

Compliance-as-Code for AI-Driven Identity Systems predlaga „pogodbe o dokazilih“, ki določajo zahtevane vrste dokazil, preslikave, polja, izdaje in obdobja opazovanja. Prototip uporablja sintetične poteke dela za upravljanje identitet, zato je študija arhitekturni primer in ne široka validacija v podjetniškem okolju.

Poročilo o testiranju iz marca samodejno ne dokazuje, da kontrola po septembrski spremembi sistema še vedno deluje. Izvoz konfiguracije za eno hčerinsko družbo ne dokazuje stanja druge. Dokazilo potrebuje predmet, izvor, obdobje in trditev, ki jo podpira. Če integracija preneha dostavljati aktualne podatke, je trenutno stanje nedokazano; to je nekaj drugega kot dokazana odpoved kontrole.

Dogovorjena preverjanja naredite ponovljiva

Ontological Knowledge Blocks opisuje strukturirano vmesno predstavitev obveznosti, ki jih opredelijo strokovnjaki in se prevedejo v izvedljiva validacijska pravila. Normativna razlaga ostaja odgovornost ljudi. Ločen prednatis o oceni tveganj z različicami pravil preslika opazljive tehnične artefakte v ordinalne izide in nekatere lastnosti doslednosti preveri formalno. Nobena od študij ne vzpostavlja univerzalnega mehanizma za skladnost niti empirično umerjenih verjetnosti incidentov.

Uporabno načelo je razlikovati med razlago in ponovljivo izvedbo. Agent lahko iz politike predlaga merila. Ko jih strokovnjaki odobrijo, preverjanja, kot so manjkajoče polje, poteklo obdobje opazovanja ali presežen prag, ne bi smela ob vsakem zagonu zahtevati nove razlage modela. Ocena mora beležiti različico zahteve, različice dokazil in uporabljeno logiko.

Ponovno odprite odločitve, ko se spremenijo njihove predpostavke

Neprekinjena skladnost ne zahteva, da se po vsaki spremembi dokumenta ponovno odpre vsaka kontrola. Zahteva pa vedenje, kateri sklepi so odvisni od informacij, ki so se spremenile. Popravljen naslov morda nima nobenega učinka. Nova izjema za privilegirani dostop lahko vpliva na več ogrodij.

Zgodovinska odločitev mora ostati nedotaknjena: v tistem času je bila morda upravičena. Ne sme pa neomejeno živeti naprej kot aktualna trditev, ko so se njene predpostavke spremenile. Eksplicitna razmerja z različicami svetovalcem omogočajo, da se osredotočijo na ocene, ki jih je resnično treba ponovno pogledati.

Ti članki ne dokazujejo, da je lahko GRC povsem avtonomen. Več jih je prednatisov ali evalvacij ozkih prototipov. Kažejo pa na uporaben standard za Secani: agenti naj pripravijo informacije, predlagajo preslikave, pojasnijo vrzeli in svetovalcem pomagajo hitreje priti do zagovorljivih odločitev.

Zeleni status je rezultat. Izdelek je sledljiva povezava med zahtevo, resničnostjo in odločitvijo.