AI v GRC: citovat neznamená ověřit

AI agent přečte bezpečnostní politiku, najde relevantní odstavec a označí požadavek jako splněný. Jeho vysvětlení zní věrohodně a obsahuje odkaz na zdroj. Jaká změna požadavku nebo důkazu by však tento verdikt změnila?

Nedávný výzkum v oblasti správy, řízení rizik a compliance (GRC) činí tuto otázku nevyhnutelnou. Model může dát správnou odpověď ze špatného důvodu, citovat skutečný zdroj připojený k nesprávnému systému nebo zaměnit písemnou politiku za účinnou kontrolu. V Secani to bereme jako výzvu pro návrh produktu: spojení mezi požadavkem, pozorováním a rozhodnutím musí být otevřené prověření.

Otestujte, zda verdikt závisí na pravidle

Preprint Verdict Without the Rule ponechává případ beze změny a přitom rozhodující pravidlo maže, nahrazuje nebo neguje. U pěti lokálně provozovaných modelů a 20 domén změnilo smazání pravidla verdikt v průměru jen v 5,3 procenta případů. Nezměněný verdikt není automaticky špatný: různá pravidla mohou vést ke stejnému výsledku. Samotná správná odpověď však nemůže prokázat, že systém dodané pravidlo použil.

To vyžaduje zrevidované dvojice případů, nikoli jen benchmarky s jedinou odpovědí. Pokud se požadavek na revizi přístupů změní ze čtvrtletní na měsíční, zatímco dostupné logy zůstanou stejné, posouzení se možná bude muset změnit. Přeformulování téhož požadavku beze změny jeho významu by mělo posouzení ponechat stabilní. Obě reakce jsou důležité.

Oddělte pokrytí politikou od provozního důkazu

PACE odděluje vyhledání relevantních pasáží politiky od posouzení, zda bezpečnostní požadavek pokrývají plně, částečně, nebo vůbec. Jeho uváděné výsledky se týkají pokrytí dokumentací, nikoli toho, zda popsaná opatření fungují v praxi. Politika může vyžadovat vícefaktorovou autentizaci pro privilegovaný přístup, aniž by prokazovala, které účty jsou technicky chráněny nebo jaké existují výjimky.

ReCon dokumentuje ještě jednodušší selhání: v některých příkladech modely zacházejí s textem požadavku obsaženým v promptu, jako by šlo o důkaz společnosti. Požadavky a záznamy společnosti proto potřebují v datovém modelu odlišné identity. Citace by měla odkazovat na pasáž, která tvrzení skutečně podporuje.

Toto rozlišení činí zjištění akceschopnými. „Politika existuje, ale u tří privilegovaných účtů chybí technické důkazy“ říká konzultantovi, co má prošetřit. „Částečně v souladu“ nikoli.

Kontrolujte vztah, nejen zdroj

Pipeline popsaná v článku From Legacy Documentation to OSCAL extrahuje aktiva z popisů systémů a využívá strukturované informace o hrozbách k vytváření artefaktů pro compliance. Její analýza chyb ukazuje, proč může i skutečný zdroj podporovat nesprávný závěr: pokud je aktivum extrahováno chybně, pozdější dotazy mohou vrátit skutečné zranitelnosti jiného produktu.

Lidská revize má největší hodnotu právě u takových vazeb s vysokým dopadem: verze produktu, hranice systému, lokality nebo přiřazení kontroly, na kterých závisí mnoho pozdějších zjištění. Extrahovaný návrh by měl zůstat odlišitelný od potvrzené položky soupisu. Když je opravena základní vazba, musí být odvozená posouzení dohledatelná.

Dejte důkazům rozsah a časové okno

Článek Compliance-as-Code for AI-Driven Identity Systems navrhuje „smlouvy o důkazech“ (evidence contracts), které určují požadované typy důkazů, mapování, pole, vydání a období pozorování. Jeho prototyp používá syntetické postupy správy identit, takže studie je spíše příkladem architektury než širokou validací v podnikovém prostředí.

Zpráva z testu z března automaticky neprokazuje, že kontrola stále funguje po zářijové změně systému. Export konfigurace pro jednu dceřinou společnost nestanoví stav jiné. Důkaz potřebuje subjekt, původ, období a podporované tvrzení. Pokud integrace přestane dodávat aktuální data, je současný stav neprokázaný; to je něco jiného než prokázané selhání kontroly.

Učiňte dohodnuté kontroly opakovatelnými

Článek Ontological Knowledge Blocks popisuje strukturovanou mezireprezentaci povinností definovaných odborníky, která se kompiluje do spustitelných validačních pravidel. Normativní výklad zůstává odpovědností člověka. Samostatný preprint o posuzování rizik mapuje pozorovatelné technické artefakty na ordinální výsledky pomocí verzovaných pravidel a některé vlastnosti konzistence ověřuje formálně. Žádná z těchto studií nezakládá univerzální compliance engine ani empiricky kalibrované pravděpodobnosti incidentů.

Užitečným principem je odlišit výklad od opakovatelného provádění. Agent může z politiky navrhnout kritéria. Jakmile je odborníci schválí, kontroly jako chybějící pole, vypršelé období pozorování nebo překročený práh by neměly při každém běhu vyžadovat nový výklad modelem. Verdikt by měl zaznamenávat verzi požadavku, verze důkazů a uplatněnou logiku.

Otevírejte rozhodnutí znovu, když se změní jejich předpoklady

Průběžná compliance neznamená požadavek znovu otevírat každou kontrolu po každé úpravě dokumentu. Vyžaduje vědět, které závěry závisejí na informacích, jež se změnily. Opravený nadpis nemusí mít žádný účinek. Nová výjimka pro privilegovaný přístup může ovlivnit několik rámců.

Historické rozhodnutí by mělo zůstat nedotčené: v dané době mohlo být odůvodněné. Nemělo by však donekonečna přežívat jako aktuální tvrzení poté, co se jeho předpoklady změnily. Výslovné, verzované vztahy umožňují konzultantům soustředit se na posouzení, která skutečně potřebují další pohled.

Tyto práce neprokazují, že GRC může být plně autonomní. Několik z nich jsou preprinty nebo hodnocení úzce zaměřených prototypů. Ukazují však na užitečný standard pro Secani: agenti by měli připravovat informace, navrhovat mapování, vysvětlovat mezery a pomáhat konzultantům rychleji dospět k obhajitelným rozhodnutím.

Zelený stav je výstup. Produktem je dohledatelné spojení mezi požadavkem, realitou a rozhodnutím.