AI i GRC: en kildehenvisning er ikke en verifikation

En AI-agent læser en sikkerhedspolitik, finder et relevant afsnit og markerer et krav som opfyldt. Forklaringen lyder plausibel og indeholder et kildelink. Men hvilken ændring af kravet eller evidensen ville ændre den vurdering?

Ny forskning inden for governance, risk and compliance (GRC) gør det spørgsmål uomgængeligt. En model kan give det rigtige svar af den forkerte grund, henvise til en ægte kilde, der hører til det forkerte system, eller forveksle en skriftlig politik med en effektiv kontrol. Hos Secani ser vi det som en udfordring for produktdesignet: Forbindelsen mellem krav, observation og beslutning skal være åben for efterprøvning.

Test, om vurderingen afhænger af reglen

Preprintet Verdict Without the Rule holder en sag fast, mens den styrende regel slettes, erstattes eller negeres. På tværs af fem lokalt kørte modeller og 20 domæner ændrede sletning af reglen kun vurderingen i gennemsnitligt 5,3 procent af tilfældene. En uændret vurdering er ikke automatisk forkert: Forskellige regler kan føre til samme resultat. Men et korrekt svar alene kan ikke fastslå, at systemet brugte den angivne regel.

Det kræver gennemgåede par af sager, ikke kun benchmarks med enkeltsvar. Hvis et krav om adgangsgennemgang ændres fra kvartalsvis til månedlig, mens de tilgængelige logge forbliver de samme, kan vurderingen være nødt til at ændre sig. En omformulering af det samme krav uden ændring af dets betydning bør lade vurderingen være stabil. Begge reaktioner er vigtige.

Adskil politikdækning fra operationelt bevis

PACE adskiller fremfinding af relevante politikafsnit fra vurderingen af, om de dækker et sikkerhedskrav helt, delvist eller slet ikke. De rapporterede resultater vedrører dokumentationsdækning, ikke om de beskrevne foranstaltninger virker i praksis. En politik kan kræve multifaktorautentificering for privilegeret adgang uden at bevise, hvilke konti der teknisk er beskyttet, eller hvilke undtagelser der findes.

ReCon dokumenterer et endnu enklere svigt: I nogle eksempler behandler modellerne kravteksten i prompten, som om den var virksomhedens evidens. Krav og virksomhedens registreringer skal derfor have særskilte identiteter i datamodellen. En kildehenvisning bør pege på det afsnit, der faktisk understøtter påstanden.

Denne sondring gør fundene handlingsrettede. »Politikken findes, men der mangler teknisk evidens for tre privilegerede konti« fortæller en konsulent, hvad der skal undersøges. »Delvist compliant« gør ikke.

Kontrollér relationen, ikke kun kilden

Pipelinen i From Legacy Documentation to OSCAL udtrækker aktiver fra systembeskrivelser og bruger struktureret trusselsefterretning til at producere compliance-artefakter. Fejlanalysen viser, hvorfor en ægte kilde alligevel kan understøtte den forkerte konklusion: Hvis et aktiv udtrækkes forkert, kan senere forespørgsler returnere ægte sårbarheder for et andet produkt.

Menneskeligt review er mest værdifuldt ved sådanne led med stor betydning: en produktversion, en systemafgrænsning, en lokation eller en kontroltildeling, som mange senere fund afhænger af. Et udtrukket forslag bør forblive adskilleligt fra et bekræftet element i fortegnelsen. Når et grundlæggende led rettes, skal de afledte vurderinger kunne spores.

Giv evidens et omfang og et tidsvindue

Compliance-as-Code for AI-Driven Identity Systems foreslår »evidenskontrakter«, der angiver krævede evidenstyper, mappings, felter, udgivelser og observationsperioder. Prototypen bruger syntetiske identitetsworkflows, så studiet er et arkitektureksempel snarere end en bred validering i virksomhedsmiljøer.

En testrapport fra marts beviser ikke automatisk, at en kontrol stadig virker efter en systemændring i september. En konfigurationseksport for ét datterselskab fastslår ikke tilstanden i et andet. Evidens kræver et subjekt, en oprindelse, en periode og en understøttet påstand. Hvis en integration holder op med at levere aktuelle data, er den nuværende tilstand ubevist; det er noget andet end et påvist svigt i kontrollen.

Gør aftalte kontroller gentagelige

Ontological Knowledge Blocks beskriver en struktureret mellemrepræsentation af ekspertdefinerede forpligtelser, der kompileres til eksekverbare valideringsregler. Den normative fortolkning forbliver et menneskeligt ansvar. Et separat preprint om risikovurdering mapper observerbare tekniske artefakter til ordinale udfald ved hjælp af versionerede regler og kontrollerer visse konsistensegenskaber formelt. Ingen af studierne etablerer en universel compliance-motor eller empirisk kalibrerede sandsynligheder for hændelser.

Det nyttige princip er at skelne mellem fortolkning og gentagelig udførelse. En agent kan foreslå kriterier ud fra en politik. Når eksperterne har godkendt dem, bør kontroller som et manglende felt, en udløbet observationsperiode eller en overskredet tærskel ikke kræve en ny modelfortolkning ved hver kørsel. En vurdering bør registrere kravets version, evidensens versioner og den anvendte logik.

Genåbn beslutninger, når deres forudsætninger ændrer sig

Kontinuerlig compliance er ikke et krav om at genåbne alle kontroller efter enhver dokumentændring. Den kræver viden om, hvilke konklusioner der afhænger af de oplysninger, der blev ændret. En rettet overskrift har måske ingen effekt. En ny undtagelse for privilegeret adgang kan påvirke flere frameworks.

Den historiske beslutning bør forblive intakt: Den kan have været begrundet på det tidspunkt. Men den bør ikke leve videre i det uendelige som en aktuel påstand, efter at dens forudsætninger har ændret sig. Eksplicitte, versionerede relationer lader konsulenterne fokusere på de vurderinger, der reelt skal ses på igen.

Disse artikler beviser ikke, at GRC kan blive fuldt autonom. Flere af dem er preprints eller evalueringer af snævre prototyper. De peger dog på en nyttig standard for Secani: Agenter bør forberede information, foreslå mappings, forklare mangler og hjælpe konsulenter med hurtigere at nå frem til forsvarlige beslutninger.

En grøn status er et output. Den sporbare forbindelse mellem krav, virkelighed og beslutning er produktet.