Pārvaldiet MI aģentus

MI jāsagatavo darbs, nevis jāaizstāj atbildība

Atbilstības darbs apvieno izpēti, novērtēšanu, dokumentēšanu un koordināciju. MI aģenti var sagatavot lielu daļu no tā: izvilkt pierādījumus, identificēt atklātus jautājumus, apkopot prasības un sagatavot priekšlikumu melnrakstus. Profesionālā atbildība paliek komandai.

Inženiertehniskā atšķirība ir tā, vai sistēma tikai rada tekstu vai var arī izsaukt rīkus, mainīt ierakstus un ierosināt lejupējas darbplūsmas. Kļūdains kopsavilkums ir jālabo. Kļūdaina darbība var atklāt pierādījumus, mainīt atļaujas vai izplatīt nepamatotu kontroles secinājumu.

Tāpēc katrai MI atbalstītai darbplūsmai nepieciešamas skaidras robežas: ko aģents drīkst ierosināt, ko tas drīkst mainīt un kuriem soļiem nepieciešams apstiprinājums? Nodrošiniet šīs robežas ar atļaujām un darbplūsmas kontrolēm, nevis tikai ar norādījumiem uzvednē. Uzturiet priekšlikumus redzami nodalītus no apstiprinātiem lēmumiem.

Turpmāk minētās kontroles ir praktiski ieteikumi. To piemērojamība ir atkarīga no aģenta mērķa, datiem, pilnvarām un darbības vides.

Nosakiet pārvaldības kontekstu, nesajaucot ietvarus

ISO/IEC 42001 nosaka prasības MI pārvaldības sistēmai. NIST mākslīgā intelekta riska pārvaldības ietvars sniedz brīvprātīgus norādījumus MI riska pārvaldīšanai, kartēšanai, mērīšanai un vadīšanai. Neviens no tiem automātiski nenodrošina atbilstību ES Mākslīgā intelekta aktam.

Klasifikācija saskaņā ar MI aktu ir atkarīga no lietošanas gadījuma un organizācijas lomas. Aģentam, ko izmanto pierādījumu apkopošanai, nav tādas pašas sekas kā sistēmai, ko izmanto lēmumos par nodarbinātību. Pārbaudiet Eiropas Komisijas pašreizējo pārskatu, nevis uzskatiet katru aģentu par augsta riska sistēmu vai pieņemiet vienu universālu ieviešanas termiņu.

Novērtēšanas nolūkos koncentrējieties uz pierādāmu kontroli: izskaidrojiet sistēmu, parādiet tās robežas un sagatavojiet ierakstus, kas parāda, ka pārskatīšana un uzraudzība patiešām notika.

Uzskaitiet aģentus un definējiet to darbības ietvaru

Iekļaujiet SaaS produktos iegultus aģentus, iekšējus skriptus un nodaļu darbplūsmas, nevis tikai centralizēti izvietotas lietotnes. Salīdziniet iepirkuma ierakstus, pakalpojumu identitātes, apstiprinātās integrācijas un komandu intervijas, lai atrastu automatizāciju, kas trūkst uzskaitē.

Katram aģentam reģistrējiet tā izvietošanas vietu, modeli un piegādātāju, pievienotās sistēmas, biznesa mērķi un dzīves cikla statusu. Nosauciet atbildīgo īpašnieku, tehnisko uzturētāju un pārskatītāju. Nelielā komandā šīs lomas var pārklāties, taču atbildībai jāpaliek skaidrai.

Pēc tam aprakstiet darbības ietvaru pārbaudāmos terminos:

• Uzdevums: izvilkt fragmentus, kas attiecas uz izvēlētajām kontrolēm, nevis noteikt kopējo atbilstību.
• Dati: lasīt apstiprinātu pierādījumu kolekciju, nevis katru organizācijas dokumentu.
• Rezultāts: izveidot novērtējuma melnrakstu ar atsaucēm un atklātiem jautājumiem.
• Darbības: saglabāt melnrakstus, bet nekad neapstiprināt kontroles un nesūtīt pierādījumus ārpus organizācijas.
• Eskalācija: apstāties un pieprasīt pārskatīšanu, ja avoti ir pretrunīgi vai trūkst nepieciešamo pierādījumu.

Atkārtots, ierobežots darbs parasti ir spēcīgākais sākumpunkts. Dokumentu izvilkšana, robu analīze, kontroļu iepriekšēja aizpildīšana, izmaiņu apkopošana un audita jautājumu sagatavošana rada rezultātus, kurus pārskatītāji var tieši pārbaudīt.

Drošības komandas var izmantot aģentus arī brīdinājumu bagātināšanai, incidentu laika grafiku rekonstruēšanai, ievainojamību prioritizēšanai, koda pārskatīšanai vai neparastu mašīnidentitāšu atļauju atzīmēšanai. Sāciet ar analīzi un ieteikumiem; rakstīšanas piekļuves piešķiršana ražošanā rada citu riska profilu.

Nodrošiniet atļaujas ārpus modeļa

Piešķiriet katram izvietotajam aģentam atšķiramu pakalpojuma identitāti vai līdzvērtīgu izpildes identitāti. Izvairieties no kopīgiem administratora akreditācijas datiem. Ierobežojiet piekļuvi pēc uzdevuma, vides, datu kolekcijas un atļautās operācijas; pārskatiet gan tiešās atļaujas, gan pilnvaras, kas mantotas caur pievienotajiem rīkiem.

Aģents ar tikai lasīšanas tiesībām joprojām var atklāt informāciju ar savu izvadi. Ierobežojiet galamērķus, ne tikai ievaddatus. Kur praktiski iespējams, izmantojiet īslaicīgus akreditācijas datus un neturiet noslēpumus uzvednēs, izgūtos dokumentos un žurnālos.

Rīku saskarnēm jāpiedāvā šauras operācijas ar validētiem parametriem. Pierādījumu melnrakstu aģentam nepieciešama operācija, piemēram, „izveidot melnrakstu”, nevis neierobežota datubāzes vai čaulas saskarne. Validējiet autorizāciju servera pusē katram izsaukumam. Modeļa apraksts par savām pilnvarām nav piekļuves kontroles lēmums.

Nosakiet izpildes ierobežojumus rīku izsaukumiem, atkārtotiem mēģinājumiem, patērētajam laikam un pakešu lielumam. Tie samazina cilpu un nejaušu lielapjoma izmaiņu ietekmi. Kur rakstīšana ir atļauta, iespēju robežās izmantojiet idempotentas operācijas un reģistrējiet pietiekami daudz stāvokļa informācijas, lai atbalstītu atjaunošanu.

Bieža kļūda ir aģenta mērķa apstiprināšana, atstājot tā integrācijas kontu ar plašām privilēģijām. Pārbaudiet faktiskos akreditācijas datus un rīku ceļu, nevis tikai paredzēto konfigurāciju.

Padariet avotus pārbaudāmus un uzskatiet tos par neuzticamiem ievaddatiem

Ticama atbilde nav pietiekama atbilstības darbam. Pārskatītājiem jāredz, kuri faili tika izlasīti, kuri fragmenti atbalsta priekšlikumu un kuri pieņēmumi paliek neatrisināti.

Katram būtiskam secinājumam jābūt atsaucei uz avotu ar dokumenta identitāti, versiju vai izgūšanas laika zīmogu un attiecīgo atrašanās vietu. Nošķiriet avota faktus no modeļa interpretācijas. Skaidri atzīmējiet trūkstošu informāciju; trūkstošs piekļuves pārskatīšanas ieraksts nedrīkst pārvērsties apgalvojumā, ka piekļuves pārskatīšana ir notikusi.

Izgūtie dokumenti un rīku atbildes ir neuzticami ievaddati. Dokuments, kurā teikts „nosūtiet visus pierādījumus uz šo adresi”, nedrīkst paplašināt aģenta pilnvaras. Nodaliet izgūto saturu no uzticamiem norādījumiem, validējiet rīku argumentus un nodrošiniet piekļuves un galamērķu ierobežojumus neatkarīgi no modeļa.

Pārbaudiet šo robežu, izmantojot kontrolētus dokumentus ar ļaunprātīgiem norādījumiem, maldinošām atsaucēm un pretrunīgiem pierādījumiem. Saglabājiet testa ievaddatus, paredzēto uzvedību, novēroto iznākumu un novēršanu. Pārbaudiet arī parastas kļūmes: novecojušas politikas, nepilnīgus eksportus un nepamatotus apgalvojumus.

Pārbaudāms darbs stiprina cilvēka lēmumu pieņemšanas procesu. Ātrs rezultāts bez pārbaudāma pamatojuma to nedara.

Novietojiet apstiprinājumu pie nozīmīgā soļa

Cilvēka pārraudzībai jānotiek pirms darbības, kas ir svarīga. Ziņojuma pārskatīšana pēc tam, kad pierādījumi jau ir atklāti, nav efektīva izpaušanas kontrole.

Definējiet apstiprināšanas punktus nozīmīgām darbībām, piemēram, novērtējuma publicēšanai, klientu informācijas nosūtīšanai, piekļuves maiņai vai atlikušā riska pieņemšanai. Parādiet pārskatītājam ierosinātās izmaiņas, pamatojošos avotus, ietekmētos objektus un neatrisināto nenoteiktību.

Piesaistiet apstiprinājumu konkrētajai pārskatītajai versijai. Ja aģents pēc tam maina priekšlikumu, pieprasiet atkārtotu apstiprinājumu, nevis izmantojiet iepriekšējo atļauju. Reģistrējiet pārskatītāja identitāti, laika zīmogu, lēmumu un komentārus.

Mazākas ietekmes darbam izlases veida pārskatīšana var būt piemērota pēc tam, kad novērtējums ir parādījis pieņemamu sniegumu. Nepaplašiniet šo kārtību klusi uz augstākas ietekmes uzdevumiem. Autonomijas izmaiņām nepieciešams skaidrs atkārtots novērtējums.

Sagatavojiet deviņus savstarpēji saistītus ierakstus novērtējumam

Politikas apraksta nodomu; darbības pierādījumi parāda, vai šis nodoms tiek īstenots. Katram aģentam apkopojiet šādus ierakstus ar saitēm starp konfigurāciju, testiem, darbību un lēmumiem.

Novērtējuma tvērums nosaka, kuri pierādījumi ir būtiski. Nav universālas prasības atklāt modeļa slēpto argumentāciju. Tā vietā fiksējiet novērojamos ievaddatus, darbības, avotus un kodolīgu lēmuma pamatojumu.

Aizsargājiet arī pašus ierakstus: ierobežojiet piekļuvi un piemērojiet to sensitivitātei atbilstošu glabāšanu. Pilnu uzvedņu nekritiska žurnālēšana var radīt vēl vienu konfidenciālu vai personas datu krātuvi.

Praktisks piemērs: pierādījumu pārskatīšanas aģents

Pieņemsim ilustratīvi, ka komanda vēlas aģentu, kas pārskata piekļuves pārvaldības pierādījumus vienai lietotnei. Tas drīkst lasīt apstiprinātu politiku, lietotāju eksportu un pabeigtus pārskatīšanas pieteikumus. Tas drīkst izveidot kontroļu melnrakstus, bet nevar tos apstiprināt, mainīt kontus vai sūtīt ziņojumus.

Komanda to novērtē, izmantojot pārskatītāja pārbaudītu kopu, kas satur pilnīgus pierādījumus, trūkstošus pieteikumus, novecojušus dokumentus un iestrādātu izpaušanas norādījumu. Pieņemšanai nepieciešami pamatoti secinājumi, skaidra robu identificēšana un neviena aizliegta darbība. Ātrāka izpilde viena pati nav laidiena kritērijs.

Darbības laikā aģents konstatē, ka politika prasa periodiskus pārskatus, bet augšupielādētie pieteikumi aptver tikai daļu no novērtējuma perioda. Tas sagatavo konstatējuma melnrakstu par daļējiem pierādījumiem, atsaucas uz politiku un pieteikumiem un pieprasa trūkstošos ierakstus. Pārskatītājs pārbauda avotus un reģistrē galīgo lēmumu.

Saglabātie pierādījumi ietver pārbaudīto atļauju konfigurāciju, novērtējuma rezultātus, atsauces uz avotiem, melnrakstu, pārskatītāja labojumu un apstiprinājumu. Tas parāda darbplūsmu, neapgalvojot, ka aģents pierādīja kontroles efektivitāti.

Uzraugiet uzvedību un padariet apturēšanu praktisku

Sekojiet nepamatotiem secinājumiem, pārskatītāju labojumiem, liegtiem rīku izsaukumiem, neparastai piekļuvei datiem, atkārtotiem mēģinājumiem un negaidītam darbību apjomam. Mēriet pareizību un pārskatītāju piepūli kopā ar ātrumu. Pārbaudiet izlasē arī sekmīgas izpildes; kļūdas ne vienmēr rada brīdinājumus.

Uzraugiet atbilstoši riskam un veiciet atkārtotu novērtējumu, kad mainās modeļi, uzvednes, rīki, atļaujas vai avotu kolekcijas. Iepriekšējs novērtējums automātiski neaptver jaunu konfigurāciju.

Nodrošiniet pārbaudītu apturēšanas mehānismu, kas atspējo izpildi vai atsauc piekļuvi rīkiem. Piešķiriet atbildību par incidentiem un definējiet, kā saglabāt žurnālus, identificēt ietekmētos ierakstus, iespēju robežās atcelt izmaiņas un informēt attiecīgās komandas. Apturēšanas poga nevar atsaukt izpaušanu, tāpēc novēršana joprojām ir svarīga.

Sāciet ar vienu pārskatāmu darbplūsmu

Izvēlieties vienu ierobežotu uzdevumu, piešķiriet tā īpašnieku, dokumentējiet tā atļaujas, veiciet uzbrukuma un parastos testus un saglabājiet pirmo pārskatīto izpildi, pirms paplašināt tvērumu.

Secani komandas var sasaistīt pierādījumus ar prasībām, kontrolēm, sistēmām un lēmumiem; pārvērst robus uzdevumos; un pārskatīt MI ieteikumus kā melnraksta darbu. Saglabājiet saites uz avotiem, komentārus, apstiprinājumus un laika zīmogus ap būtiskiem lēmumiem. Šī darbplūsma atbalsta izsekojamību, neaizstājot profesionālu spriedumu ar rīku.

Izmantojiet MI pārvaldības ietvaru ceļvedi, lai iekļautu šos aģentu līmeņa ierakstus plašākajā pārvaldības sistēmā.