ISO 42001, NIST AI RMF és az MI-rendelet: kapcsolja össze a szerepeket

Az MI-irányítás ötvözhet egy irányítási rendszert, egy kockázati keretrendszert és jogi kötelezettségeket. A mérnöki kihívás az, hogy ezeket úgy kapcsoljuk össze, hogy ne tegyünk úgy, mintha felcserélhetők lennének. Egy szabályzat, egy értékelési jelentés és egy jogi besorolási döntés ugyanazt az MI-szolgáltatást támaszthatja alá, de mindegyik más kérdésre válaszol.

Az ISO/IEC 42001 azt határozza meg, hogyan irányítja egy szervezet az MI-t. A NIST AI Risk Management Framework segít a csapatoknak a kockázatok kontextusban történő vizsgálatában és kezelésében. Az uniós MI-rendelet a rendszertől, annak rendeltetésszerű céljától és a szervezet üzemeltetői szerepétől függően állapít meg jogi kötelezettségeket.

Egy CTO számára az a hasznos eredmény, ha egyetlen felülvizsgálható irányítási lánc jön létre: meghatározott felhasználási eset, elszámoltatható felelősök, megvalósított biztosítékok, tesztbizonyítékok, kiadási döntések és monitorozás. A keretrendszer-megfeleltetéseknek erre a láncra kell mutatniuk, miközben megőrzik azokat a követelményeket, amelyek még műszaki, jogi vagy megfelelőségértékelési munkát igényelnek.

Értse meg, mit határoznak meg az egyes eszközök

ISO 42001: tegye megismételhetővé az irányítást

Az ISO/IEC 42001 követelményeket határoz meg egy AIMS kialakítására, bevezetésére, fenntartására és folyamatos fejlesztésére. Irányítási rendszerre vonatkozó követelményei kiterjednek a szervezeti környezetre, a vezetésre, a tervezésre, a támogatásra, a működtetésre, a teljesítményértékelésre és a fejlesztésre.

Ez a struktúra akkor számít, amikor több csapat fejleszt vagy vásárol MI-t. Alapot ad annak eldöntéséhez, ki engedélyezi a telepítést, hogyan végzik a hatás- és kockázatértékeléseket, hogyan kezelik a beszállítói függőségeket, és hogyan vezetnek a hibák korrekciós intézkedésekhez.

A szabvány az A mellékletben referenciakontrollokat, valamint megvalósítási útmutatást is tartalmaz. A kontrollok kiválasztása kockázatalapú, és dokumentált indoklást igényel; ha a mellékletet egyszerűen ellenőrzőlistába másolják, az nem igazolja, hogy az irányítási rendszer működik.

Egy független tanúsító szervezet értékelheti a meghatározott hatókörű AIMS-t. Maga az ISO nem tanúsít szervezeteket. A tanúsítás bizonyosságot ad erről az irányítási rendszerről a megadott határon belül, de nem korlátlan állítás arról, hogy minden modell vagy kimenet biztonságos.

NIST AI RMF: vizsgálja meg a tényleges kockázatot

A NIST AI RMF a kockázatkezelési munkát a Govern, Map, Measure és Manage funkciók köré szervezi. A Govern átfogó jellegű; a funkciók nem egyszerűen négy egymást követő projektfázis.

A megbízhatósági jellemzői közé tartozik az érvényesség és megbízhatóság, a biztonság, a védettség és ellenálló képesség, az elszámoltathatóság és átláthatóság, a megmagyarázhatóság és értelmezhetőség, a magánszféra védelmének erősítése, valamint a méltányosság a káros torzítások kezelésével. Ezek a jellemzők kompromisszumokkal járhatnak. A részletesebb magyarázatok például olyan információkat fedhetnek fel, amelyek adatvédelmi védelmet igényelnek.

A NIST útmutatása segít a csapatoknak abban, hogy az általános célokat felhasználásieset-specifikus kérdésekké és értékelésekké alakítsák. Az elszámoltathatósággal is foglalkozik; az irányítás nem kizárólag az ISO 42001 terepe. Nincs az ISO irányítási rendszerek tanúsításához hasonló NIST AI RMF tanúsítási rendszer. Egy külső értékelés támogathatja a bizonyosságot, de annak hatókörét és módszertanát meg kell adni.

Az MI-rendelet: a kötelezettségeket határozza meg, ne csak a kockázatokat

Az uniós MI-rendelet különböző rendelkezésekkel szabályozza a meghatározott gyakorlatokat, az MI-rendszereket és az általános célú MI-modelleket. A jogi alkalmazhatóságot nem egyedül egy műszaki kockázati pontszám határozza meg. A rendeltetésszerű cél, a területi hatály, az üzemeltetői szerep és az egyedi besorolási szabályok is számítanak.

Egy szolgáltató kötelezettségei eltérnek egy alkalmazóéitól. Egy modell nem ugyanaz, mint az azt magában foglaló alkalmazás, és attól, hogy egy szoftvert „ágensnek” nevezünk, még nem dől el a jogi szerepe vagy a besorolása.

Kezdje a hatókörrel és a jogi alkalmazhatósággal

Az MI-leltárt az operatív felhasználási esetek szintjén vezesse, ne csak a szállítók neve szerint. Egyetlen alapmodell egyszerre támogathat egy belső szövegíró asszisztenst és egy munkaerő-kiválasztási szűrőeszközt. Ezeknek a telepítéseknek eltérőek az érintettjei, a következményei, a kontrolljai és a lehetséges kötelezettségei.

Minden felhasználási esetnél rögzítse:

• A rendeltetésszerű célt, a támogatott döntéseket, a tiltott felhasználásokat és a telepítési helyeket.
• A rendszerfelelőst, a műszaki felelőst, a felhasználókat és az érintett személyeket.
• A modell- és alkalmazásszállítókat, az üzemeltetési megállapodásokat és a függőségeket.
• Az adatforrásokat, a kimeneteket, az integrációkat és az engedélyezett műveleteket.
• A szervezet üzemeltetői szerepét és az azt alátámasztó érvelést.
• A besorolást, az alkalmazandó kötelezettségeket, a felülvizsgálati dátumot és a nyitott kérdéseket.

Egy EU-n kívüli szervezet is a rendelet hatálya alá tartozhat meghatározott körülmények között. Fordítva: az, hogy egy vállalatnak uniós ügyfelei vannak, nem indokolja, hogy minden lehetséges kötelezettséget minden termékre alkalmazzon. Vizsgálja meg a tényleges területi és szerepköri feltételeket.

Válassza külön a tiltott gyakorlatokat, a nagy kockázatú rendszerekre vonatkozó követelményeket, a különös átláthatósági kötelezettségeket és az általános célú MI-modellekre vonatkozó kötelezettségeket. Ezek nem egyetlen mérnöki súlyossági skála felcserélhető fokozatai. Egy látszólag kis hatású chatbotra is vonatkozhatnak átláthatósági kötelezettségek; egy nagy hatású felhasználási eset részletesebb jogi értékelést igényel.

Az aktuális végrehajtási ütemtervet használja

Az Európai Bizottság MI-rendeletről szóló áttekintése a 2026. október 7-i ellenőrzés szerint a következő ütemtervet adja meg:

A módosított rendelkezéseket, az átmeneti szabályokat és az adott rendszert külön értékelje. Ne halassza el a már alkalmazandó kötelezettségeket csak azért, mert létezik egy későbbi, nagy kockázatú rendszerekre vonatkozó dátum. A jogi értékelést lássa el dátummal, az ütemtervvel és a szerepkör-értékeléssel kapcsolatos háttérhez pedig használja az MI-rendeletre való felkészülésről szóló útmutatónkat.

Egyetlen bizonyítékláncot építsen, ne három dokumentumtárat

Egy gyakorlati irányítási lánc a felhasználási esettel kezdődik, és egy felülvizsgált döntéssel végződik:

Cél → hatások és kockázatok → követelmények → biztosítékok → értékelések → jóváhagyás → monitorozás.

Minden kapcsolatnak elég részletesnek kell lennie ahhoz, hogy a megvalósító csapaton kívüli személy is megvizsgálhassa. Az „emberi felügyelet megvalósítva” nem elegendő, ha a felülvizsgáló nem tudja megállapítani, ki avatkozhat be, mit lát, és működik-e a beavatkozás.

Használjon olyan követelménynyilvántartást, amely megkülönbözteti a forráskövetelményt a megvalósításától. Egy hasznos minimális séma tartalmazza a forrást és a verziót, a hatókört, a követelmény szövegét vagy hivatkozását, a helyi értelmezést, a kontroll felelősét, a kapcsolt bizonyítékokat, a felülvizsgálót, az állapotot és a fennmaradó hiányosságot.

Ezt a táblázatot megvalósítási segédletként kezelje, ne hiteles egyenértékűségi térképként. A kapcsolatok több-a-többhöz jellegűek: egy értékelés több követelményt is alátámaszthat, egy követelményhez pedig több kontroll és nyilvántartás is szükséges lehet.

Mielőtt újrafelhasználna egy bizonyítékot, ellenőrizze a hatókörét, a dátumát, a rendszerverziót és a következtetését. Egy modellkonfigurációra vonatkozó teszt nem támaszthat alá automatikusan egy másik konfigurációt. Egy vállalati szabályzat azt igazolja, hogy létezik egy dokumentált szabály; a végrehajtás igazolásához operatív nyilvántartásokra van szükség.

A NIST funkcióival határozza meg a mérnöki munkát

A NIST funkciói hasznos módot kínálnak arra, hogy a megvalósítási kérdéseket az AIMS-en belül rendszerezzük. Konkrét dokumentumokat kell eredményezniük, nem csupán kitöltött kérdőívmezőket.

Govern: határozza meg a döntési jogkört

Határozza meg, ki a rendszer felelőse, ki vizsgálja felül függetlenül a jelentős kockázatokat, és ki hagyhat jóvá kivételeket vagy állíthatja le a telepítést. Rögzítse a kompetenciakövetelményeket és az eszkalációs útvonalakat. Kapcsolja ezeket a felelősségeket a meglévő biztonsági, adatvédelmi, beszerzési és incidenskezelési folyamatokhoz.

Hasznos eredmény egy kiadási eljárás, amely megnevezi a szükséges felülvizsgálókat és bizonyítékokat. A kockázatelfogadásnak meg kell neveznie a döntéshozót, az indoklást, a feltételeket és a felülvizsgálatot kiváltó eseményt, ahelyett hogy csupán „elfogadva” bejegyzést rögzítene.

Map: írja le a kontextust és a következményeket

Mielőtt mérőszámokat választana, dokumentálja a munkafolyamatot. Azonosítsa, hol befolyásolja az MI a döntéseket, kit érintenek a következmények, és mi történik, ha a kimenetek hibásak, nem érhetők el, vagy visszaélnek velük.

Vegye figyelembe az előrelátható visszaéléseket és a függőségek hibáit is. Egy műveletek végrehajtására képes ágensnél térképezze fel az eszközöket, a hitelesítő adatokat, az elérhető adatokat, a jóváhagyási határokat és a helyreállítási útvonalakat. Harmadik féltől származó MI esetén rögzítse, mit irányít a szállító, és mi marad az Ön felelőssége.

Measure: tesztelje azokat az állításokat, amelyek számítanak

Az azonosított kockázatokhoz kötött értékeléseket válasszon. A felhasználási esettől függően ide tartozhat a feladatpontosság, az alcsoportok szerinti teljesítmény, a robusztusság, az adatszivárgás, a prompt injection, a jogosulatlan műveletek és a kezelők megértése.

Dokumentálja az adatkészletek eredetét, reprezentativitását, a tesztkörülményeket, a mérőszámokat, a korlátokat és az elfogadási küszöbértékeket. Ahol lehetséges, a teljes alkalmazást mérje: a lekérés, a promptok, a jogosultságok, a felületek és az emberi munkafolyamat akkor is megváltoztathatják az eredményeket, ha a mögöttes modell változatlan.

Manage: valósítsa meg a kezelést és az utánkövetést

Alakítsa a megállapításokat biztosítékokká, korlátozásokká, hibaelhárítássá vagy a telepítés elvetésének döntésévé. Példák erre az eszközjogosultságok csökkentése, a következményekkel járó műveletek jóváhagyáshoz kötése, a nem támogatott felhasználások kizárása vagy egy megbízható, MI nélküli tartalékmegoldás biztosítása.

Határozzon meg monitorozási küszöbértékeket és reagálási eljárásokat. Egy felelős vagy reagálási szabály nélküli mérőszám csupán telemetria. Rögzítse, mely események váltanak ki újraértékelést, beleértve a szállítói frissítéseket, a megváltozott adatforrásokat, a kibővített felhasználásokat és az incidenseket.

Tegye auditálhatóvá az ISO 42001-et működési nyilvántartásokkal

Ha a tanúsítás cél, a külső auditra való felkészülés előtt határozza meg az AIMS határát. A hatókör kiterjedhet egy adott termékre, üzletágra vagy életciklus-tevékenységek egy körére, de egyértelműen le kell írnia a benne foglalt tevékenységeket és interfészeket. Egy szűk hatókört nem szabad az egész szervezetre kiterjedő bizonyosságként bemutatni.

Végezzen hiányelemzést az irányítási rendszerre vonatkozó követelmények és az alkalmazandó kontrollok alapján. Alakítsa ki a szabályzatot, a célokat, a kockázat- és hatásértékelési módszereket, a kontrollok dokumentált alkalmazhatóságát, a felelősségi köröket és az operatív eljárásokat. Ezután állítson elő bizonyítékot arra, hogy ezek a folyamatok ténylegesen működnek.

Hasznos nyilvántartások az elvégzett értékelések, a beszállítói felülvizsgálatok, a képzési nyilvántartások, a kiadási jóváhagyások, a monitorozási felülvizsgálatok, a korrekciós intézkedések, a belső audit megállapításai és a vezetőségi átvizsgálás döntései. A belső audit és a vezetőségi átvizsgálás különálló tevékenységek: az egyik a megfelelőséget és a hatékonyságot értékeli, a másik a vezetésnek az irányítási rendszer értékelését és irányítását támogatja.

Egy független tanúsítási folyamat általában felkészültségi és megvalósítási értékelési szakaszokat foglal magában. A hatókört és az audit lebonyolítását egyeztesse a tanúsító szervezettel, ahelyett hogy a tanúsítást papírmunka benyújtásaként kezelné. A tanúsítás után is folytassa a monitorozást, a belső felülvizsgálatot és a fejlesztést.

Sem egy tanúsítvány, sem egy RMF-értékelés nem helyettesíti az MI-rendelet szerinti, alkalmazandó megfelelőségértékelést. A megfelelőségértékelés módja a rendszertől és a releváns rendelkezésektől függ; nem minden nagy kockázatú rendszer igényli ugyanazt a harmadik fél által végzett eljárást. A nyilatkozatra, a nyilvántartásba vételre, a jelölésre és a bejelentésre vonatkozó követelményeket szintén az adott szerepre és rendszerre vonatkozóan kell ellenőrizni.

Gyakorlati példa: egy munkaerő-felvételhez kapcsolódó MI-telepítés

Szemléltető feltevések: egy uniós munkáltató olyan alkalmazást vásárol, amely rangsorolja a jelentkezőket az interjúra való kiválasztáshoz. Az alkalmazást a szállító biztosítja, a munkáltató pedig konfigurálja a munkaköri kritériumokat, és felhasználja a rangsorokat. A végső felvételi döntéseket a toborzók hozzák meg. Tegyük fel, hogy a jogi felülvizsgálat a III. melléklet szerinti, foglalkoztatással kapcsolatos nagy kockázatú felhasználást azonosít, és a munkáltatót kezdetben alkalmazóként azonosítja.

Ezt nem oldja meg az, hogy „a végső döntést egy ember hozza meg”. A rangsorolás érdemben befolyásolhatja, ki kerül egyáltalán mérlegelésre. Az értékelésnek a tényleges munkafolyamatot kell megvizsgálnia, beleértve azt is, hogy a toborzók rendszeresen figyelmen kívül hagyják-e a határérték alatti jelentkezőket.

Hozza létre a rendszerspecifikus nyilvántartást

A műszaki felelős rögzíti a bemeneti mezőket, a szállítótól elérhető információkat a rangsorolási logikáról, az alkalmazás verzióját, a konfigurációt, a felhasználókat és az exportálási célhelyeket. A beszerzés bekéri a szállító utasításait, korlátait, a releváns értékelési bizonyítékokat, a változásokról szóló értesítéseket és a szervezet kötelezettségeinek teljesítéséhez nyújtott támogatást.

A jogi felülvizsgálat dokumentálja a besorolást és a szerepre vonatkozó feltevéseket, beleértve azt is, hogy egy jövőbeli módosítás vagy átmárkázás megváltoztathatja-e a szerepet. Az adatvédelmi felülvizsgálat külön értékeli a jelentkezői adatok kezelését. Az MI-irányítás nem helyettesíti az adatvédelmi elemzést.

Tesztelje és valósítsa meg a biztosítékokat

A NIST Map és Measure funkcióit alkalmazva a csapat reprezentatív toborzási forgatókönyveket, a hiányzó adatok kezelését, és – ahol jogszerű és megvalósítható – a releváns csoportok közötti teljesítménybeli különbségeket értékeli. Dokumentálja a bizonytalanságot és a minta korlátait, ahelyett hogy egy méltányossági mérőszámot annak bizonyítékaként mutatna be, hogy minden káros torzítás eltűnt.

Az emberi felügyelet magában foglalja a toborzók képzését, a korlátok láthatóvá tételét, a kizárt jelentkezések felülvizsgálatának lehetőségét és a rangsorolás felfüggesztésének képességét. A csapat teszteli, hogy a felülvizsgálók értik-e a kimeneteket, és működési akadályok nélkül felül tudják-e bírálni azokat.

A biztonsági kontrollok korlátozzák a jelentkezői nyilvántartásokhoz való hozzáférést, és megakadályozzák a jóvá nem hagyott exportokat. A változáskezelés újraértékelést ír elő, ha a rangsorolási kritériumok, a modellek vagy a szállító adatkezelési megállapodásai megváltoznak.

Tartsa külön a három következtetést

Az AIMS-nyilvántartás azt igazolja, hogyan működtek az értékelések, a felelősségi körök, a beszállítói felülvizsgálat és a jóváhagyási folyamatok. Az RMF-nyilvántartás a kontextuális kockázatokat, a teszteket, a kezelést és a fennmaradó bizonytalanságot magyarázza el. A jogi nyilvántartás azonosítja az alkalmazandó alkalmazói kötelezettségeket, az időzítést és a még hátralévő munkát.

Tegyük fel, hogy a szállító nem adott elegendő utasítást a megbízható felügyelethez. A kiadási nyilvántartásnak ezt a hiányosságot, annak felelősét és a telepítés elhalasztására vagy korlátozására vonatkozó döntést kell mutatnia – nem a munkáltató ISO-tanúsítványától örökölt zöld állapotot.

Határozza meg a prioritásokat, és tartsa karban a bizonyítékokat a kiadás után

Először az alkalmazandó jogi kötelezettségeket és az elfogadhatatlan működési kockázatokat priorizálja. Az ISO-tanúsítás a hibaelhárítással párhuzamosan is haladhat, de egy auditcél nem szoríthatja ki a sürgős kontrollokat.

Ha a csapatoknál hiányoznak a következetes felelősségi körök és felülvizsgálati folyamatok, építse ki az AIMS alapjait. Ha az irányítás már létezik, de a rendszerértékelések gyengék, használja az RMF-et a kontextuális elemzés és a tesztelés javítására. Ha egy ügyfél tanúsítást követel meg, a költségvetés tervezése előtt erősítse meg a várt hatókört.

Kerülje az általános költség- vagy időtartam-feltevéseket. A ráfordítás a rendszerek számától, a meglévő irányítástól, az értékelési igényektől, a szállítói átláthatóságtól és a hibaelhárítástól függ. Az RMF ingyenesen elérhető, a megvalósítás azonban így is munkaidőt emészt fel; az ISO-tanúsításnál emellett a szabvány beszerzésével és a külső értékeléssel kapcsolatos szempontok is felmerülnek.

A kiadás után rendeljen felülvizsgálatot kiváltó eseményeket a dokumentumokhoz. Egy szállítói modellfrissítés érvénytelenítheti az értékelési eredményeket; egy új műveleti jogosultság megváltoztathatja a fenyegetési modellt; egy új piac jogi újraértékelést tehet szükségessé. Őrizze meg a korábbi verziókat és döntéseket, hogy a felülvizsgálók rekonstruálni tudják, mit hagytak jóvá az adott időpontban.

Gyakori hibák: a megfeleltetéseket megfelelésként kezelni, szabályzatokat gyűjteni működési bizonyítékok nélkül, a szállítói állításokat telepítésspecifikus elemzés nélkül elfogadni, és döntéshozó nélkül rögzíteni a maradványkockázatot. Egy másik hiba a modell minőségének mérése az alkalmazás jogosultságainak és az emberi viselkedésnek a figyelmen kívül hagyásával.

A Secani a követelmények, kontrollok, forrásanyagok, felelősök, feladatok és felülvizsgált döntések összekapcsolásával támogathatja a bizonyítéki munkafolyamatot. Kezdjen egyetlen meghatározott hatókörrel, csatolja a bizonyítékokat ahhoz, amit alátámasztanak, és alakítsa a hiányzó vagy elavult anyagokat kiosztott munkává. Az MI-támogatott javaslatokat kezelje tervezetként: a megfeleltetéseket és a következtetéseket embernek kell felülvizsgálnia, a források és a jóváhagyás indoklásának megőrzésével. Így az irányítás alapja megvizsgálható marad anélkül, hogy a mérnöki vagy jogi ítélőképességet helyettesítené.

A megvalósítást befolyásoló kérdések

Újrafelhasználhatók-e a meglévő biztonsági kontrollok?

Igen, ha megvalósításuk és bizonyítékaik lefedik az MI-telepítést. A hozzáférés-szabályozás, az incidenskezelés és a beszállítókezelés gyakran hozzájárul ehhez. Önmagukban azonban nem válaszolják meg a káros torzításra, a rendeltetésszerű célra vagy a hatékony emberi felügyeletre vonatkozó kérdéseket.

Mi a teendő, ha egy szállító nem hozza nyilvánosságra a modell belső működését?

Rögzítse az átláthatóság korlátját. Kérjen a felhasználási esettel arányos bizonyítékokat, értékelje a telepített alkalmazást, és határozza meg, szükség van-e szerződéses garanciákra, korlátozásokra vagy alternatív szállítókra. A hiányzó átláthatóság nem válik automatikusan elfogadhatóvá attól, hogy a szolgáltatás kereskedelmi forgalomban kapható.

Mit tegyen először a csapat?

Válasszon ki egy következményekkel járó felhasználási esetet, és gyűjtse össze annak felelősét, célját, szerepkör-értékelését, kockázati nyilvántartását, biztosítékait, tesztjeit és jóváhagyását. Vizsgálja felül a hiányosságokat mindhárom eszköz szempontjából. Ez a körülhatárolt gyakorlat megmutatja, hogy a szervezetnek a bővítés előtt jobb irányításra, jobb műszaki bizonyítékokra vagy még nyitott jogi munka elvégzésére van-e szüksége.