ISO 42001, NIST AI RMF ir Dirbtinio intelekto aktas: susiekite vaidmenis

DI valdymas gali sujungti valdymo sistemą, rizikos valdymo sistemą ir teisinius įpareigojimus. Inžinerinis iššūkis yra juos susieti, neapsimetant, kad jie vienas kitą pakeičia. Politika, vertinimo ataskaita ir teisinio klasifikavimo sprendimas gali būti susiję su ta pačia DI paslauga, tačiau kiekvienas atsako į skirtingą klausimą.

ISO/IEC 42001 nustato, kaip organizacija valdo DI. NIST DI rizikos valdymo sistema padeda komandoms tirti ir valdyti rizikas kontekste. ES dirbtinio intelekto aktas nustato teisines pareigas pagal sistemą, jos numatytąją paskirtį ir organizacijos kaip veiklos vykdytojo vaidmenį.

Technologijų vadovui naudingas rezultatas yra viena peržiūrima valdymo grandinė: apibrėžtas naudojimo atvejis, atskaitingi savininkai, įgyvendintos apsaugos priemonės, testų įrodymai, išleidimo sprendimai ir stebėsena. Susiejimai su sistemomis turėtų nurodyti į šią grandinę, kartu išsaugant reikalavimus, kuriems dar reikia techninio, teisinio ar su atitikties vertinimu susijusio darbo.

Supraskite, ką nustato kiekviena priemonė

ISO 42001: padarykite valdymą pakartojamą

ISO/IEC 42001 nustato reikalavimus, kaip sukurti, įgyvendinti, palaikyti ir nuolat tobulinti AIMS. Jo valdymo sistemos reikalavimai apima organizacijos kontekstą, vadovavimą, planavimą, palaikymą, veiklą, veiksmingumo vertinimą ir tobulinimą.

Ši struktūra svarbi, kai DI kuria ar perka kelios komandos. Ji suteikia pagrindą spręsti, kas leidžia diegti, kaip atliekami poveikio ir rizikos vertinimai, kaip tvarkomos priklausomybės nuo tiekėjų ir kaip gedimai virsta taisomaisiais veiksmais.

Standarte taip pat yra A priede pateiktos etaloninės kontrolės priemonės ir įgyvendinimo gairės. Kontrolės priemonių pasirinkimas grindžiamas rizika ir reikalauja dokumentuoto pagrindimo; priedo nukopijavimas į kontrolinį sąrašą neįrodo, kad valdymo sistema veikia.

Nepriklausoma sertifikavimo įstaiga gali įvertinti apibrėžtos apimties AIMS. Pati ISO organizacijų nesertifikuoja. Sertifikavimas suteikia užtikrinimą dėl tos valdymo sistemos jos nurodytose ribose, o ne neribotą teiginį, kad kiekvienas modelis ar rezultatas yra saugus.

NIST AI RMF: ištirkite faktinę riziką

NIST AI RMF rizikos darbą organizuoja pagal funkcijas Govern, Map, Measure ir Manage. Govern yra kertinė funkcija; funkcijos nėra tiesiog keturi nuoseklūs projekto etapai.

Jos patikimumo savybės apima pagrįstumą ir patikimumą, saugą, saugumą ir atsparumą, atskaitomybę ir skaidrumą, paaiškinamumą ir interpretuojamumą, privatumo stiprinimą ir sąžiningumą valdant žalingą šališkumą. Šios savybės gali reikalauti kompromisų. Pavyzdžiui, išsamesni paaiškinimai gali atskleisti informaciją, kuriai reikia privatumo apsaugos.

NIST gairės padeda komandoms bendrus tikslus paversti konkretaus naudojimo atvejo klausimais ir vertinimais. Jos taip pat apima atskaitomybę; valdymas nėra vien ISO 42001 sritis. Nėra NIST AI RMF sertifikavimo schemos, panašios į ISO valdymo sistemų sertifikavimą. Išorinis vertinimas gali padėti užtikrinti pasitikėjimą, tačiau turi būti nurodyta jo apimtis ir metodika.

Dirbtinio intelekto aktas: nustatykite pareigas, o ne tik rizikas

ES dirbtinio intelekto aktas skirtingomis nuostatomis reguliuoja nurodytas praktikas, DI sistemas ir bendrosios paskirties DI modelius. Teisinio taikymo nenulemia vien techninis rizikos balas. Svarbu numatytoji paskirtis, teritorinė taikymo sritis, veiklos vykdytojo vaidmuo ir konkrečios klasifikavimo taisyklės.

Tiekėjo įpareigojimai skiriasi nuo diegėjo įpareigojimų. Modelis nėra tas pats, kas jį naudojanti programa, o programinės įrangos pavadinimas „agentu“ neišsprendžia jos teisinio vaidmens ar klasifikavimo.

Pradėkite nuo apimties ir teisinio taikymo

DI inventorių tvarkykite veiklos naudojimo atvejų lygmeniu, o ne vien tiekėjų pavadinimų lygmeniu. Tas pats pagrindinis modelis gali palaikyti ir vidinį rašymo asistentą, ir įdarbinimo atrankos įrankį. Šie diegimai turi skirtingus paveiktus asmenis, pasekmes, kontrolės priemones ir galimus įpareigojimus.

Kiekvienam naudojimo atvejui užfiksuokite:

• Numatytąją paskirtį, palaikomus sprendimus, draudžiamus naudojimo būdus ir diegimo vietas.
• Sistemos savininką, techninį savininką, naudotojus ir paveiktus asmenis.
• Modelio ir programos tiekėjus, prieglobos sąlygas ir priklausomybes.
• Duomenų šaltinius, rezultatus, integracijas ir leidžiamus veiksmus.
• Organizacijos kaip veiklos vykdytojo vaidmenį ir jį pagrindžiančius argumentus.
• Klasifikavimą, taikomus įpareigojimus, peržiūros datą ir neišspręstus klausimus.

Už ES ribų veikianti organizacija tam tikromis aplinkybėmis vis tiek gali patekti į akto taikymo sritį. Ir atvirkščiai, klientai ES nepateisina kiekvieno galimo įpareigojimo priskyrimo kiekvienam produktui. Peržiūrėkite faktines teritorines ir vaidmens sąlygas.

Atskirkite draudžiamas praktikas, didelės rizikos sistemų reikalavimus, konkrečias skaidrumo pareigas ir bendrosios paskirties DI modelių įpareigojimus. Tai nėra tarpusavyje keičiami vienos inžinerinės sunkumo skalės lygiai. Iš pažiūros mažo poveikio pokalbių robotas gali turėti skaidrumo įpareigojimų; didelio poveikio naudojimo atvejui reikia išsamesnio teisinio vertinimo.

Naudokite dabartinį įgyvendinimo tvarkaraštį

Europos Komisijos Dirbtinio intelekto akto apžvalgoje, patikrintoje 2026 m. spalio 7 d. kontekste, pateikiamas toks tvarkaraštis:

Pakeistas nuostatas, pereinamojo laikotarpio tvarką ir konkrečią sistemą vertinkite atskirai. Neatidėkite jau taikomų pareigų vien todėl, kad egzistuoja vėlesnė didelės rizikos sistemų data. Teisinį vertinimą datuokite, o laiko juostos ir vaidmens vertinimo kontekstui naudokite mūsų pasirengimo Dirbtinio intelekto aktui vadovą.

Sukurkite vieną įrodymų grandinę, o ne tris dokumentų bibliotekas

Praktinė valdymo grandinė prasideda nuo naudojimo atvejo ir baigiasi peržiūrėtu sprendimu:

Paskirtis → poveikiai ir rizikos → reikalavimai → apsaugos priemonės → vertinimai → patvirtinimas → stebėsena.

Kiekvienai sąsajai reikia pakankamai detalių, kad ją galėtų patikrinti asmuo, nepriklausantis įgyvendinimo komandai. Teiginio „žmogaus priežiūra įgyvendinta“ nepakanka, jei peržiūrėtojas negali nustatyti, kas gali įsikišti, ką jie mato ir ar įsikišimas veikia.

Naudokite reikalavimų įrašą, kuris atskiria pirminį reikalavimą nuo jo įgyvendinimo. Naudingą minimalią schemą sudaro šaltinis ir versija, apimtis, reikalavimo tekstas ar nuoroda, vietinė interpretacija, kontrolės priemonės savininkas, susieti įrodymai, peržiūrėtojas, būsena ir likusi spraga.

Šią lentelę laikykite įgyvendinimo pagalbine priemone, o ne autoritetingu atitikmenų žemėlapiu. Ryšiai yra „daug su daug“: vienas vertinimas gali pagrįsti kelis reikalavimus, o vienam reikalavimui gali prireikti kelių kontrolės priemonių ir įrašų.

Prieš pakartotinai naudodami įrodymus, patikrinkite jų apimtį, datą, sistemos versiją ir išvadą. Vienos modelio konfigūracijos testas negali automatiškai pagrįsti kitos konfigūracijos. Įmonės politika įrodo, kad egzistuoja dokumentuota taisyklė; jos vykdymui įrodyti reikia veiklos įrašų.

Naudokite NIST funkcijas inžineriniam darbui apibrėžti

NIST funkcijos suteikia naudingą būdą organizuoti įgyvendinimo klausimus AIMS viduje. Jos turėtų duoti konkrečius artefaktus, o ne vien užpildytus klausimyno laukus.

Govern: nustatykite sprendimų priėmimo įgaliojimus

Apibrėžkite, kam priklauso sistema, kas nepriklausomai peržiūri reikšmingas rizikas ir kas gali patvirtinti išimtis ar sustabdyti diegimą. Nurodykite kompetencijos reikalavimus ir eskalavimo kelius. Susiekite šias atsakomybes su esamais saugumo, privatumo, pirkimų ir incidentų valdymo procesais.

Naudingas rezultatas yra išleidimo procedūra, nurodanti reikalingus peržiūrėtojus ir įrodymus. Rizikos priėmime turėtų būti nurodytas sprendimą priimantis asmuo, pagrindimas, sąlygos ir peržiūros paskata, o ne vien užfiksuota „priimta“.

Map: aprašykite kontekstą ir pasekmes

Prieš rinkdamiesi rodiklius, dokumentuokite darbo eigą. Nustatykite, kur DI daro įtaką sprendimams, kas patiria pasekmes ir kas nutinka, kai rezultatai klaidingi, neprieinami ar netinkamai naudojami.

Įtraukite numatomą netinkamą naudojimą ir priklausomybių gedimus. Agentui, galinčiam atlikti veiksmus, aprašykite įrankius, prisijungimo duomenis, prieinamus duomenis, patvirtinimo ribas ir atkūrimo kelius. Trečiųjų šalių DI atveju užfiksuokite, ką kontroliuoja tiekėjas ir kas lieka jūsų atsakomybė.

Measure: testuokite svarbius teiginius

Rinkitės vertinimus, susietus su nustatytomis rizikomis. Priklausomai nuo naudojimo atvejo, tai gali būti užduočių tikslumas, veikimas pogrupiuose, atsparumas, privačių duomenų nutekėjimas, užklausų injekcijos, neleistini veiksmai ir operatorių supratimas.

Dokumentuokite duomenų rinkinių kilmę, reprezentatyvumą, testų sąlygas, rodiklius, apribojimus ir priėmimo ribas. Kur įmanoma, matuokite visą programą: paieška, užklausos, leidimai, sąsajos ir žmonių darbo eiga gali pakeisti rezultatus, net jei pagrindinis modelis nesikeičia.

Manage: įgyvendinkite tvarkymą ir tolesnius veiksmus

Radinius paverskite apsaugos priemonėmis, apribojimais, trūkumų šalinimu arba sprendimu nediegti. Pavyzdžiui, galima sumažinti įrankių leidimus, reikalauti patvirtinimo reikšmingiems veiksmams, neįtraukti nepalaikomų naudojimo būdų ar numatyti patikimą atsarginį sprendimą be DI.

Nustatykite stebėsenos ribas ir reagavimo procedūras. Rodiklis be atsakingo asmens ar reagavimo taisyklės yra tik telemetrija. Užfiksuokite, kurie įvykiai sukelia pakartotinį vertinimą, įskaitant tiekėjų atnaujinimus, pasikeitusius duomenų šaltinius, išplėstą naudojimą ir incidentus.

Padarykite ISO 42001 audituojamą per veiklos įrašus

Jei tikslas yra sertifikavimas, prieš ruošdamiesi išoriniam auditui apibrėžkite AIMS ribas. Apimtis gali apimti konkretų produktą, verslo padalinį ar gyvavimo ciklo veiklų rinkinį, tačiau ji turėtų aiškiai apibūdinti įtrauktas veiklas ir sąsajas. Siaura apimtis neturi būti pateikiama kaip visos organizacijos užtikrinimas.

Atlikite spragų vertinimą pagal valdymo sistemos reikalavimus ir taikomas kontrolės priemones. Nustatykite politiką, tikslus, rizikos ir poveikio vertinimo metodus, dokumentuotą kontrolės priemonių taikomumą, atsakomybes ir veiklos procedūras. Tada sukurkite įrodymus, kad šie procesai iš tikrųjų veikia.

Naudingi įrašai: atlikti vertinimai, tiekėjų peržiūros, mokymų įrašai, išleidimo patvirtinimai, stebėsenos peržiūros, taisomieji veiksmai, vidaus audito radiniai ir vadovybės peržiūros sprendimai. Vidaus auditas ir vadovybės peržiūra yra skirtingos veiklos: pirmasis vertina atitiktį ir veiksmingumą, antroji padeda vadovybei vertinti valdymo sistemą ir nustatyti jos kryptį.

Nepriklausomas sertifikavimo procesas paprastai apima pasirengimo ir įgyvendinimo vertinimo etapus. Apimtį ir audito tvarką suderinkite su sertifikavimo įstaiga, o ne laikykite sertifikavimą dokumentų pateikimu. Po sertifikavimo tęskite stebėseną, vidaus peržiūrą ir tobulinimą.

Nei sertifikatas, nei RMF vertinimas nepakeičia taikomo Dirbtinio intelekto akto atitikties vertinimo. Atitikties vertinimo būdas priklauso nuo sistemos ir atitinkamų nuostatų; ne kiekvienai didelės rizikos sistemai reikia to paties trečiosios šalies vertinimo būdo. Deklaravimo, registravimo, ženklinimo ir pranešimo reikalavimus taip pat reikia patikrinti atsižvelgiant į atitinkamą vaidmenį ir sistemą.

Pavyzdys: su įdarbinimu susijęs DI diegimas

Iliustracinės prielaidos: ES darbdavys perka programą, kuri reitinguoja kandidatus pokalbių peržiūrai. Tiekėjas teikia programą, o darbdavys konfigūruoja darbo vietos kriterijus ir naudoja reitingus. Galutinius įdarbinimo sprendimus priima atrankos specialistai. Tarkime, teisinė peržiūra nustato III priede nurodytą didelės rizikos naudojimą užimtumo srityje ir iš pradžių darbdavį priskiria diegėjui.

To neišsprendžia teiginys, kad „galutinį sprendimą priima žmogus“. Reitingavimas gali reikšmingai lemti, kas sulaukia dėmesio. Vertinimas turi išnagrinėti faktinę darbo eigą, įskaitant tai, ar atrankos specialistai įprastai ignoruoja kandidatus žemiau tam tikros ribos.

Sudarykite konkrečiai sistemai skirtą įrašą

Techninis savininkas užfiksuoja įvesties laukus, iš tiekėjo gaunamą informaciją apie reitingavimo logiką, programos versiją, konfigūraciją, naudotojus ir eksporto paskirties vietas. Pirkimų skyrius prašo tiekėjo instrukcijų, apribojimų, atitinkamų vertinimo įrodymų, pranešimų apie pakeitimus ir paramos vykdant organizacijos įpareigojimus.

Teisinė peržiūra dokumentuoja klasifikavimo ir vaidmens prielaidas, įskaitant tai, ar būsimas pakeitimas ar prekės ženklo pakeitimas galėtų pakeisti vaidmenį. Privatumo peržiūra atskirai įvertina kandidatų duomenų tvarkymą. DI valdymas nepakeičia duomenų apsaugos analizės.

Testuokite ir įgyvendinkite apsaugos priemones

Naudodama NIST funkcijas Map ir Measure, komanda vertina reprezentatyvius įdarbinimo scenarijus, elgseną trūkstant duomenų ir, kur tai teisėta ir įmanoma, veikimo skirtumus tarp atitinkamų grupių. Ji dokumentuoja neapibrėžtumą ir imties apribojimus, o ne pateikia sąžiningumo rodiklį kaip įrodymą, kad bet koks žalingas šališkumas išnyko.

Žmogaus priežiūra apima atrankos specialistų mokymą, matomus apribojimus, galimybę peržiūrėti atmestas paraiškas ir galimybę sustabdyti reitingavimą. Komanda testuoja, ar peržiūrėtojai supranta rezultatus ir gali juos pakeisti be veiklos kliūčių.

Saugumo kontrolės priemonės riboja prieigą prie kandidatų įrašų ir neleidžia nepatvirtintų eksportų. Pakeitimų valdymas reikalauja pakartotinio vertinimo, kai keičiasi reitingavimo kriterijai, modeliai ar tiekėjo duomenų tvarkymo sąlygos.

Laikykite tris išvadas atskirai

AIMS įrašas parodo, kaip veikė vertinimai, savininkų paskyrimas, tiekėjų peržiūra ir patvirtinimo procesai. RMF įrašas paaiškina kontekstines rizikas, testus, tvarkymą ir likusį neapibrėžtumą. Teisinis įrašas nurodo taikomas diegėjo pareigas, terminus ir neužbaigtą darbą.

Tarkime, tiekėjas nepateikė pakankamų instrukcijų patikimai priežiūrai. Išleidimo įraše turėtų būti matoma ši spraga, jos savininkas ir sprendimas atidėti ar apriboti diegimą, o ne žalia būsena, paveldėta iš darbdavio ISO sertifikato.

Pasirinkite prioritetus ir palaikykite įrodymus po išleidimo

Pirmiausia teikite prioritetą taikomoms teisinėms pareigoms ir nepriimtinoms veiklos rizikoms. ISO sertifikavimas gali vykti lygiagrečiai su trūkumų šalinimu, tačiau audito tikslas neturėtų nustumti skubių kontrolės priemonių.

Jei komandoms trūksta nuoseklaus savininkų paskyrimo ir peržiūros procesų, kurkite AIMS pagrindą. Jei valdymas egzistuoja, bet sistemų vertinimai silpni, naudokite RMF kontekstinei analizei ir testavimui tobulinti. Jei klientas reikalauja sertifikavimo, prieš planuodami biudžetą patvirtinkite laukiamą apimtį.

Venkite visuotinių prielaidų apie sąnaudas ar trukmę. Pastangos priklauso nuo sistemų skaičiaus, esamo valdymo, vertinimo poreikių, tiekėjų matomumo ir trūkumų šalinimo. RMF yra prieinama nemokamai, tačiau įgyvendinimas vis tiek reikalauja darbuotojų laiko; ISO sertifikavimas papildomai susijęs su prieiga prie standarto ir išoriniu vertinimu.

Po išleidimo artefaktams priskirkite peržiūros paskatas. Tiekėjo modelio atnaujinimas gali paversti vertinimo rezultatus negaliojančiais; naujas veiksmo leidimas gali pakeisti grėsmių modelį; nauja rinka gali pareikalauti pakartotinio teisinio vertinimo. Išsaugokite ankstesnes versijas ir sprendimus, kad peržiūrėtojai galėtų atkurti, kas tuo metu buvo patvirtinta.

Dažnos klaidos: susiejimų laikymas atitiktimi, politikų rinkimas be veiklos įrodymų, tiekėjų teiginių priėmimas be konkrečiam diegimui skirtos analizės ir liekamosios rizikos fiksavimas be sprendimą priimančio asmens. Kita klaida yra matuoti modelio kokybę ignoruojant programos leidimus ir žmonių elgseną.

Secani gali palaikyti įrodymų darbo procesą, susiedama reikalavimus, kontrolės priemones, šaltinių medžiagą, atsakingus asmenis, užduotis ir peržiūrėtus sprendimus. Pradėkite nuo vienos apibrėžtos apimties, pridėkite įrodymus prie to, ką jie pagrindžia, o trūkstamą ar pasenusią medžiagą paverskite paskirtu darbu. DI padedamus pasiūlymus laikykite juodraščiais: žmogus turėtų peržiūrėti susiejimus ir išvadas, išsaugant šaltinius ir patvirtinimo pagrindimą. Taip valdymo pagrindas lieka patikrinamas, nepakeičiant inžinerinio ar teisinio vertinimo.

Klausimai, turintys įtakos įgyvendinimui

Ar galima pakartotinai naudoti esamas saugumo kontrolės priemones?

Taip, jei jų įgyvendinimas ir įrodymai apima DI diegimą. Prieigos kontrolė, reagavimas į incidentus ir tiekėjų valdymas dažnai prisideda. Tačiau jos pačios savaime neatsako į klausimus apie žalingą šališkumą, numatytąją paskirtį ar veiksmingą žmogaus priežiūrą.

Ką daryti, jei tiekėjas neatskleidžia modelio vidinės sandaros?

Užfiksuokite matomumo apribojimą. Siekite naudojimo atvejui proporcingų įrodymų, įvertinkite įdiegtą programą ir nustatykite, ar reikalingi sutartiniai užtikrinimai, apribojimai ar alternatyvūs tiekėjai. Matomumo trūkumas automatiškai netampa priimtinas vien todėl, kad paslauga komerciškai prieinama.

Ką komanda turėtų daryti pirmiausia?

Pasirinkite vieną reikšmingą naudojimo atvejį ir surinkite jo savininką, paskirtį, vaidmens vertinimą, rizikos įrašą, apsaugos priemones, testus ir patvirtinimą. Peržiūrėkite spragas visose trijose priemonėse. Šis apribotas pratimas atskleidžia, ar prieš plečiantis organizacijai reikia geresnio valdymo, geresnių techninių įrodymų, ar dar neišspręsto teisinio darbo.