AI inom GRC: att citera är inte att verifiera

En AI-agent läser en säkerhetspolicy, hittar ett relevant stycke och markerar ett krav som uppfyllt. Förklaringen låter rimlig och innehåller en källänk. Men vilken ändring i kravet eller underlaget skulle ändra utlåtandet?

Aktuell forskning om styrning, riskhantering och regelefterlevnad (GRC) gör den frågan oundviklig. En modell kan ge rätt svar av fel skäl, citera en äkta källa som hör till fel system eller förväxla en skriven policy med en fungerande kontroll. På Secani ser vi detta som en utmaning för produktdesignen: kopplingen mellan krav, observation och beslut måste vara öppen för granskning.

Testa om utlåtandet beror på regeln

Förtrycket Verdict Without the Rule håller ett fall konstant medan den styrande regeln tas bort, ersätts eller negeras. Över fem lokalt körda modeller och 20 domäner ändrade borttagningen av regeln utlåtandet i genomsnitt i endast 5,3 procent av fallen. Ett oförändrat utlåtande är inte automatiskt fel: olika regler kan leda till samma utfall. Men ett korrekt svar ensamt kan inte fastställa att systemet använde den angivna regeln.

Det kräver granskade fallpar, inte bara riktmärken med enskilda svar. Om ett krav på behörighetsgranskning ändras från kvartalsvis till månadsvis medan tillgängliga loggar förblir desamma kan bedömningen behöva ändras. Att formulera om samma krav utan att ändra dess innebörd bör lämna bedömningen oförändrad. Båda reaktionerna spelar roll.

Skilj policytäckning från operativa belägg

PACE skiljer hämtningen av relevanta policystycken från bedömningen av om de täcker ett säkerhetskrav helt, delvis eller inte alls. De redovisade resultaten gäller dokumentationens täckning, inte om de beskrivna åtgärderna fungerar i praktiken. En policy kan kräva multifaktorautentisering för privilegierad åtkomst utan att bevisa vilka konton som är tekniskt skyddade eller vilka undantag som finns.

ReCon dokumenterar ett ännu enklare fel: i vissa exempel behandlar modellerna den kravtext som ingår i prompten som om den vore företagets underlag. Krav och företagets poster behöver därför separata identiteter i datamodellen. En källhänvisning bör peka på det stycke som faktiskt stöder påståendet.

Åtskillnaden gör iakttagelserna användbara. ”Policyn finns, men tekniska underlag saknas för tre privilegierade konton” talar om för en konsult vad som ska utredas. ”Delvis uppfyllt” gör det inte.

Kontrollera relationen, inte bara källan

Flödet i From Legacy Documentation to OSCAL extraherar tillgångar ur systembeskrivningar och använder strukturerad hotinformation för att ta fram compliance-artefakter. Dess felanalys visar varför en verklig källa ändå kan stödja fel slutsats: om en tillgång extraheras felaktigt kan senare sökningar returnera verkliga sårbarheter för en annan produkt.

Mänsklig granskning är mest värdefull vid sådana kopplingar med stor påverkan: en produktversion, en systemgräns, en plats eller en kontrolltilldelning som många senare iakttagelser bygger på. Ett extraherat förslag bör förbli skiljbart från en bekräftad post i förteckningen. När en grundläggande koppling rättas måste de härledda bedömningarna vara spårbara.

Ge underlagen en omfattning och ett tidsfönster

Compliance-as-Code for AI-Driven Identity Systems föreslår ”underlagskontrakt” som anger krävda typer av underlag, mappningar, fält, releaser och observationsperioder. Prototypen använder syntetiska identitetsflöden, så studien är ett arkitekturexempel snarare än en bred validering i företagsmiljö.

En testrapport från mars bevisar inte automatiskt att en kontroll fortfarande fungerar efter en systemändring i september. En konfigurationsexport för ett dotterbolag fastställer inte läget i ett annat. Underlag behöver ett objekt, ett ursprung, en period och ett påstående som det stöder. Om en integration slutar leverera aktuella data är det nuvarande läget obevisat; det är något annat än ett påvisat fel i kontrollen.

Gör överenskomna kontroller upprepbara

Ontological Knowledge Blocks beskriver en strukturerad mellanrepresentation av expertdefinierade skyldigheter som kompileras till körbara valideringsregler. Den normativa tolkningen förblir ett mänskligt ansvar. Ett separat förtryck om riskbedömning mappar observerbara tekniska artefakter till ordinala utfall med versionshanterade regler och kontrollerar vissa konsistensegenskaper formellt. Ingen av studierna fastställer en universell compliancemotor eller empiriskt kalibrerade sannolikheter för incidenter.

Den användbara principen är att skilja tolkning från upprepbart utförande. En agent kan föreslå kriterier utifrån en policy. När experter har godkänt dem bör kontroller som ett saknat fält, en utgången observationsperiod eller ett överskridet tröskelvärde inte kräva en ny modelltolkning vid varje körning. Ett utlåtande bör registrera kravversion, versioner av underlagen och den tillämpade logiken.

Öppna beslut på nytt när deras förutsättningar ändras

Kontinuerlig regelefterlevnad är inget krav på att öppna varje kontroll på nytt efter varje dokumentändring. Den kräver att man vet vilka slutsatser som beror på den information som ändrades. En rättad rubrik kanske inte har någon effekt. Ett nytt undantag för privilegierad åtkomst kan påverka flera ramverk.

Det historiska beslutet ska förbli intakt: det kan ha varit motiverat vid tidpunkten. Men det ska inte leva vidare i all oändlighet som ett aktuellt påstående efter att dess förutsättningar har ändrats. Uttryckliga, versionshanterade relationer låter konsulter fokusera på de bedömningar som verkligen behöver ses över igen.

Dessa artiklar bevisar inte att GRC kan bli helt autonomt. Flera är förtryck eller utvärderingar av snäva prototyper. De pekar dock mot en användbar standard för Secani: agenter bör förbereda information, föreslå mappningar, förklara brister och hjälpa konsulter att snabbare nå försvarbara beslut.

En grön status är ett resultat. Den spårbara kopplingen mellan krav, verklighet och beslut är produkten.