ISO 42001, NIST AI RMF a akt o umělé inteligenci: propojte jejich role

Správa AI může kombinovat systém řízení, rámec řízení rizik a právní povinnosti. Inženýrskou výzvou je propojit je, aniž bychom předstírali, že jsou zaměnitelné. Politika, zpráva o vyhodnocení a rozhodnutí o právní klasifikaci mohou podporovat tutéž službu AI, ale každé z nich odpovídá na jinou otázku.

ISO/IEC 42001 stanoví, jak organizace řídí AI. Rámec řízení rizik AI od NIST (AI Risk Management Framework) pomáhá týmům zkoumat a řídit rizika v kontextu. Akt EU o umělé inteligenci (AI Act) stanoví právní povinnosti podle systému, jeho zamýšleného účelu a role provozovatele, kterou organizace zastává.

Pro CTO je užitečným výsledkem jeden přezkoumatelný řetězec správy: definovaný případ užití, odpovědní vlastníci, implementovaná ochranná opatření, důkazy z testů, rozhodnutí o vydání a monitorování. Mapování rámců by měla směřovat do tohoto řetězce a zároveň zachovávat požadavky, které stále vyžadují technickou, právní nebo s posuzováním shody související práci.

Pochopte, co který nástroj stanoví

ISO 42001: učiňte správu opakovatelnou

ISO/IEC 42001 stanoví požadavky na zavedení, implementaci, udržování a neustálé zlepšování AIMS. Její požadavky na systém řízení pokrývají kontext organizace, vedení, plánování, podporu, provoz, hodnocení výkonnosti a zlepšování.

Tato struktura je důležitá, když AI vyvíjí nebo nakupuje několik týmů. Poskytuje základ pro rozhodování o tom, kdo schvaluje nasazení, jak se provádějí posouzení dopadů a rizik, jak se řeší závislosti na dodavatelích a jak selhání vedou k nápravným opatřením.

Norma obsahuje také referenční opatření v příloze A a pokyny k implementaci. Výběr opatření vychází z rizik a vyžaduje zdokumentované zdůvodnění; zkopírování přílohy do kontrolního seznamu neprokazuje, že systém řízení funguje.

AIMS s vymezeným rozsahem může posoudit nezávislý certifikační orgán. ISO sama organizace necertifikuje. Certifikace poskytuje ujištění o daném systému řízení v rámci jeho stanovené hranice, nikoli neomezené tvrzení, že každý model nebo výstup je bezpečný.

NIST AI RMF: zkoumejte skutečné riziko

NIST AI RMF organizuje práci s riziky kolem funkcí Govern, Map, Measure a Manage. Govern je průřezová; funkce nejsou prostě čtyřmi po sobě jdoucími fázemi projektu.

Mezi jeho charakteristiky důvěryhodnosti patří validita a spolehlivost, bezpečnost, zabezpečení a odolnost, odpovědnost a transparentnost, vysvětlitelnost a interpretovatelnost, posílení soukromí a férovost s řízením škodlivého zkreslení. Tyto charakteristiky mohou vyžadovat kompromisy. Podrobnější vysvětlení mohou například odhalit informace, které vyžadují ochranu soukromí.

Pokyny NIST pomáhají týmům převést obecné cíle na otázky a vyhodnocení specifické pro daný případ užití. Zabývají se také odpovědností; správa není vyhrazena pouze ISO 42001. Neexistuje žádné certifikační schéma NIST AI RMF srovnatelné s certifikací systémů řízení podle ISO. Externí posouzení může ujištění podpořit, ale musí být uveden jeho rozsah a metodika.

Akt o umělé inteligenci: určete povinnosti, ne jen rizika

Akt EU o umělé inteligenci upravuje vymezené praktiky, systémy AI a obecné modely AI prostřednictvím různých ustanovení. Právní použitelnost se neurčuje pouze technickým skóre rizika. Záleží na zamýšleném účelu, územní působnosti, roli provozovatele a konkrétních klasifikačních pravidlech.

Povinnosti poskytovatele se liší od povinností zavádějícího subjektu. Model není totéž co aplikace, která ho obsahuje, a označení softwaru za „agenta“ neurčuje jeho právní roli ani klasifikaci.

Začněte rozsahem a právní použitelností

Udržujte inventář AI na úrovni provozních případů užití, ne jen jmen dodavatelů. Jeden podkladový model může podporovat interního asistenta pro psaní i nástroj pro výběr uchazečů o zaměstnání. Tato nasazení mají odlišné dotčené osoby, důsledky, opatření i potenciální povinnosti.

U každého případu užití zaznamenejte:

• Zamýšlený účel, podporovaná rozhodnutí, zakázaná použití a místa nasazení.
• Vlastníka systému, technického vlastníka, uživatele a dotčené osoby.
• Dodavatele modelu a aplikace, uspořádání hostingu a závislosti.
• Zdroje dat, výstupy, integrace a povolené akce.
• Roli provozovatele, kterou organizace zastává, a úvahy, které ji podporují.
• Klasifikaci, použitelné povinnosti, datum přezkumu a nevyřešené otázky.

Organizace mimo EU může za určitých okolností spadat do působnosti aktu. Naopak to, že má zákazníky v EU, neospravedlňuje přiřazení každé možné povinnosti každému produktu. Prověřte skutečné územní podmínky a podmínky role.

Oddělte zakázané praktiky, požadavky na vysoce rizikové systémy, zvláštní povinnosti transparentnosti a povinnosti týkající se obecných modelů AI. Nejde o zaměnitelné úrovně na jediné inženýrské škále závažnosti. Zdánlivě málo dopadový chatbot může mít povinnosti transparentnosti; případ užití s vysokým dopadem vyžaduje podrobnější právní posouzení.

Použijte aktuální harmonogram provádění

Přehled aktu o umělé inteligenci od Evropské komise uvádí v kontextu ověřeném k 7. říjnu 2026 následující harmonogram:

Pozměněná ustanovení, přechodná ujednání a konkrétní systém posuzujte samostatně. Neodkládejte již použitelné povinnosti jen proto, že existuje pozdější datum pro vysoce rizikové systémy. Právní posouzení udržujte datované a kontext k harmonogramu a posouzení rolí najdete v našem průvodci připraveností na akt o umělé inteligenci.

Vytvořte jeden řetězec důkazů, ne tři knihovny dokumentů

Praktický řetězec správy začíná případem užití a končí přezkoumaným rozhodnutím:

Účel → dopady a rizika → požadavky → ochranná opatření → vyhodnocení → schválení → monitorování.

Každé propojení potřebuje dost podrobností na to, aby ho mohl prověřit i někdo mimo implementační tým. „Lidský dohled implementován“ nestačí, pokud posuzovatel nedokáže zjistit, kdo může zasáhnout, co vidí a zda zásah funguje.

Používejte záznam požadavků, který odlišuje zdrojový požadavek od jeho implementace. Užitečné minimální schéma zahrnuje zdroj a verzi, rozsah, text požadavku nebo odkaz na něj, místní výklad, vlastníka opatření, propojené důkazy, posuzovatele, stav a zbývající mezeru.

Tuto tabulku považujte za pomůcku pro implementaci, ne za autoritativní mapu rovnocennosti. Vztahy jsou typu mnoho k mnoha: jedno vyhodnocení může podporovat několik požadavků, zatímco jeden požadavek může vyžadovat více opatření a záznamů.

Než důkazy znovu použijete, ověřte jejich rozsah, datum, verzi systému a závěr. Test jedné konfigurace modelu nemůže automaticky podporovat jinou konfiguraci. Firemní politika dokazuje, že existuje zdokumentované pravidlo; k prokázání jeho provádění jsou potřeba provozní záznamy.

Využijte funkce NIST k definování inženýrské práce

Funkce NIST nabízejí užitečný způsob, jak uspořádat implementační otázky uvnitř AIMS. Měly by vytvářet konkrétní artefakty, ne pouze vyplněná pole dotazníků.

Govern: stanovte rozhodovací pravomoc

Určete, kdo systém vlastní, kdo nezávisle přezkoumává významná rizika a kdo může schvalovat výjimky nebo zastavit nasazení. Stanovte požadavky na kompetence a eskalační cesty. Propojte tyto odpovědnosti se stávajícími procesy bezpečnosti, ochrany soukromí, nákupu a řízení incidentů.

Užitečným výstupem je postup vydání, který určuje požadované posuzovatele a důkazy. Akceptace rizika by měla uvádět osobu s rozhodovací pravomocí, zdůvodnění, podmínky a spouštěč přezkumu, ne pouze zaznamenat „akceptováno“.

Map: popište kontext a důsledky

Před výběrem metrik zdokumentujte pracovní postup. Určete, kde AI ovlivňuje rozhodnutí, kdo nese důsledky a co se stane, když jsou výstupy chybné, nedostupné nebo zneužité.

Zahrňte předvídatelné zneužití a selhání závislostí. U agenta, který může provádět akce, zmapujte nástroje, přihlašovací údaje, dostupná data, hranice schvalování a cesty obnovy. U AI třetích stran zaznamenejte, co řídí dodavatel a co zůstává vaší odpovědností.

Measure: testujte tvrzení, na kterých záleží

Volte vyhodnocení navázaná na identifikovaná rizika. V závislosti na případu užití mohou zahrnovat přesnost úloh, výkon v podskupinách, robustnost, únik soukromých údajů, prompt injection, neoprávněné akce a porozumění obsluhy.

Zdokumentujte původ datových sad, reprezentativnost, testovací podmínky, metriky, omezení a prahy přijetí. Kde je to možné, měřte celou aplikaci: vyhledávání, prompty, oprávnění, rozhraní a lidský pracovní postup mohou změnit výsledky, i když podkladový model zůstává stejný.

Manage: implementujte ošetření a následné kroky

Převeďte zjištění na ochranná opatření, omezení, nápravu nebo rozhodnutí systém nenasadit. Příklady zahrnují omezení oprávnění nástrojů, vyžadování schválení pro akce se závažnými důsledky, vyloučení nepodporovaných použití nebo zajištění spolehlivé záložní varianty bez AI.

Stanovte prahy monitorování a postupy reakce. Metrika bez vlastníka nebo pravidla reakce je jen telemetrie. Zaznamenejte, které události spouštějí nové posouzení, včetně aktualizací dodavatele, změněných zdrojů dat, rozšířených použití a incidentů.

Učiňte ISO 42001 auditovatelnou prostřednictvím provozních záznamů

Pokud je cílem certifikace, vymezte hranici AIMS ještě před přípravou na externí audit. Rozsah může pokrývat konkrétní produkt, obchodní jednotku nebo soubor činností životního cyklu, ale měl by jasně popisovat zahrnuté činnosti a rozhraní. Úzký rozsah nesmí být prezentován jako ujištění pro celou organizaci.

Proveďte analýzu mezer vůči požadavkům na systém řízení a použitelným opatřením. Stanovte politiku, cíle, metody posuzování rizik a dopadů, zdokumentovanou použitelnost opatření, odpovědnosti a provozní postupy. Poté vytvářejte důkazy, že tyto procesy skutečně fungují.

Mezi užitečné záznamy patří dokončená posouzení, přezkumy dodavatelů, záznamy o školení, schválení vydání, přezkumy monitorování, nápravná opatření, zjištění interního auditu a rozhodnutí z přezkoumání vedením. Interní audit a přezkoumání vedením jsou odlišné činnosti: jeden hodnotí shodu a účinnost; druhé podporuje vedení při hodnocení a směrování systému řízení.

Nezávislý certifikační proces obvykle zahrnuje fáze posouzení připravenosti a implementace. Rozsah a uspořádání auditu dohodněte s certifikačním orgánem, místo abyste certifikaci považovali za odevzdání papírů. Po certifikaci pokračujte v monitorování, interním přezkumu a zlepšování.

Certifikát ani posouzení podle RMF nenahrazují příslušné posouzení shody podle aktu o umělé inteligenci. Postup posuzování shody závisí na systému a příslušných ustanoveních; ne každý vysoce rizikový systém vyžaduje stejný postup s třetí stranou. Požadavky na prohlášení, registraci, označení a hlášení je rovněž třeba ověřit pro příslušnou roli a systém.

Modelový příklad: nasazení AI související s náborem

Ilustrativní předpoklady: zaměstnavatel v EU kupuje aplikaci, která řadí uchazeče pro posouzení k pohovoru. Dodavatel aplikaci dodává, zatímco zaměstnavatel konfiguruje kritéria pro pozice a pořadí využívá. Konečná rozhodnutí o přijetí činí náboroví pracovníci. Předpokládejme, že právní přezkum identifikuje vysoce rizikové použití v oblasti zaměstnávání podle přílohy III a zaměstnavatele zpočátku určí jako zavádějící subjekt.

Tuto situaci nevyřeší konstatování, že „konečné rozhodnutí činí člověk“. Pořadí může podstatně ovlivnit, kdo bude vůbec zvažován. Posouzení musí prověřit skutečný pracovní postup, včetně toho, zda náboroví pracovníci běžně přehlížejí uchazeče pod určitou hranicí.

Vytvořte záznam specifický pro systém

Technický vlastník zaznamená vstupní pole, informace o logice řazení dostupné od dodavatele, verzi aplikace, konfiguraci, uživatele a cíle exportu. Nákup si vyžádá od dodavatele návod k použití, omezení, relevantní důkazy z vyhodnocení, oznamování změn a podporu při plnění povinností organizace.

Právní přezkum zdokumentuje klasifikaci a předpoklady o roli, včetně toho, zda by budoucí úprava nebo změna značky mohla roli změnit. Přezkum ochrany osobních údajů samostatně posoudí zpracování údajů uchazečů. Správa AI nenahrazuje analýzu ochrany osobních údajů.

Testujte a implementujte ochranná opatření

S využitím funkcí Map a Measure od NIST tým vyhodnotí reprezentativní náborové scénáře, chování při chybějících datech a rozdíly ve výkonu mezi relevantními skupinami, pokud je to zákonné a proveditelné. Zdokumentuje nejistotu a omezení vzorku, místo aby metriku férovosti prezentoval jako důkaz, že veškeré škodlivé zkreslení zmizelo.

Lidský dohled zahrnuje školení náborových pracovníků, viditelná omezení, cestu k přezkumu vyřazených přihlášek a možnost řazení pozastavit. Tým testuje, zda posuzovatelé výstupům rozumějí a mohou je potlačit bez provozních překážek.

Bezpečnostní opatření omezují přístup k záznamům uchazečů a brání neschváleným exportům. Řízení změn vyžaduje nové posouzení, když se změní kritéria řazení, modely nebo ujednání o zpracování u dodavatele.

Udržujte tři závěry oddělené

Záznam AIMS ukazuje, jak fungovala posouzení, vlastnictví, přezkum dodavatele a procesy schvalování. Záznam RMF vysvětluje kontextová rizika, testy, ošetření a zbytkovou nejistotu. Právní záznam určuje použitelné povinnosti zavádějícího subjektu, načasování a zbývající práci.

Předpokládejme, že dodavatel neposkytl dostatečné pokyny pro spolehlivý dohled. Záznam o vydání by měl ukázat tuto mezeru, jejího vlastníka a rozhodnutí nasazení odložit nebo omezit – ne zelený stav převzatý z certifikátu ISO zaměstnavatele.

Stanovte priority a udržujte důkazy i po vydání

Na prvním místě upřednostněte použitelné právní povinnosti a nepřijatelná provozní rizika. Certifikace ISO může probíhat souběžně s nápravou, ale cíl auditu by neměl vytlačit naléhavá opatření.

Pokud týmům chybí jednotné vlastnictví a procesy přezkumu, vybudujte základ AIMS. Pokud správa existuje, ale vyhodnocení systémů jsou slabá, využijte RMF ke zlepšení kontextové analýzy a testování. Pokud zákazník vyžaduje certifikaci, ověřte si před sestavením rozpočtu očekávaný rozsah.

Vyhněte se univerzálním předpokladům o nákladech nebo době trvání. Úsilí závisí na počtu systémů, stávající správě, potřebách vyhodnocení, viditelnosti do dodavatelů a nápravě. RMF je volně dostupný, ale jeho implementace přesto spotřebovává čas zaměstnanců; certifikace ISO přidává náklady na přístup k normě a externí posouzení.

Po vydání přiřaďte artefaktům spouštěče přezkumu. Aktualizace modelu dodavatele může zneplatnit výsledky vyhodnocení; nové oprávnění k akcím může změnit model hrozeb; nový trh může vyžadovat nové právní posouzení. Uchovávejte předchozí verze a rozhodnutí, aby posuzovatelé mohli zrekonstruovat, co bylo v dané době schváleno.

Mezi běžné chyby patří považovat mapování za soulad, shromažďovat politiky bez provozních důkazů, přijímat tvrzení dodavatelů bez analýzy specifické pro nasazení a zaznamenávat zbytkové riziko bez vlastníka rozhodnutí. Další chybou je měřit kvalitu modelu a přitom ignorovat oprávnění aplikace a lidské chování.

Secani může pracovní postup s důkazy podpořit propojením požadavků, opatření, zdrojových materiálů, vlastníků, úkolů a přezkoumaných rozhodnutí. Začněte jedním definovaným rozsahem, připojte důkazy k tomu, co podporují, a chybějící nebo zastaralé materiály proměňte v přidělenou práci. Návrhy s podporou AI považujte za koncepty: mapování a závěry by měl přezkoumat člověk a zdroje i zdůvodnění schválení by měly zůstat zachovány. Díky tomu zůstává základ správy prověřitelný, aniž by nahrazoval inženýrský nebo právní úsudek.

Otázky, které ovlivňují implementaci

Lze znovu použít stávající bezpečnostní opatření?

Ano, pokud jejich implementace a důkazy pokrývají nasazení AI. Často přispívají řízení přístupu, reakce na incidenty a řízení dodavatelů. Samy o sobě však neodpovídají na otázky škodlivého zkreslení, zamýšleného účelu nebo účinného lidského dohledu.

Co když dodavatel nechce zveřejnit vnitřní fungování modelu?

Zaznamenejte toto omezení viditelnosti. Vyžadujte důkazy přiměřené případu užití, vyhodnoťte nasazenou aplikaci a určete, zda jsou nutná smluvní ujištění, omezení nebo alternativní dodavatelé. Chybějící viditelnost není automaticky přijatelná jen proto, že je služba komerčně dostupná.

Co by měl tým udělat jako první?

Zvolte jeden případ užití se závažnými důsledky a shromážděte jeho vlastníka, účel, posouzení role, záznam o riziku, ochranná opatření, testy a schválení. Přezkoumejte mezery napříč všemi třemi nástroji. Toto ohraničené cvičení ukáže, zda organizace potřebuje lepší správu, lepší technické důkazy nebo vyřešení otevřených právních otázek, než bude pokračovat v rozšiřování.