ISO 27090 skaidrojums MI drošības komandām

ISO/IEC 27090:2026 ir starptautisks standarts, kas sniedz norādījumus par drošības apdraudējumiem un kompromitēšanu, kas ietekmē mākslīgā intelekta sistēmas. Tas publicēts 2026. gada 14. oktobrī un aplūko, kā organizācijas var izprast, atklāt un mazināt šos apdraudējumus visā MI dzīves ciklā. Tā oficiālais nosaukums ir Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems. ISO publikācijas ieraksts

Drošības komandai praktiskais jautājums ir vienkāršs: ko uzbrucējs varētu MI sistēmā mainīt, no tās nozagt vai likt tai izdarīt, un kas ierobežotu radušos kaitējumu?

Šis ceļvedis skaidro ISO 27090 standarta tvērumu, galvenos MI drošības apdraudējumus, tā saistību ar ISO 27001 un ISO 42001, kā arī praktisku veidu, kā norādījumus pārvērst drošības darbā ar atbildīgajiem, aizsardzības pasākumiem un pierādījumiem. Tā pamatā esošā izpēte pārbaudīta 2026. gada 18. oktobrī.

Ko aptver ISO 27090 standarts

ISO 27090 koncentrējas uz MI sistēmu aizsardzību. Tā temats sniedzas tālāk par ģeneratīvo MI, lielajiem valodas modeļiem un tērzēšanas robotiem un aptver MI sistēmas plašāk. ISO skaidrojums par ISO 27090

Publicētais standarts sasaista iedibinātas informācijas drošības prakses ar MI specifiskiem apdraudējumiem. Tā saturs aplūko pārvaldību, piegādes ķēdes drošību, apdraudējumu modelēšanu un sarkanās komandas testēšanu (red teaming), kam seko kompromitēšanas veidi, tostarp saindēšana, apiešana, informācijas atklāšana un uzvednes injekcija (prompt injection). Tajā arī aplūkots, kā mazināšanas pasākumi mijiedarbojas un saglabā efektivitāti laika gaitā. Publicētā standarta ISO/IEC 27090 paraugs

Tvērums ietver jebkura lieluma organizācijas, kas izstrādā vai izmanto MI, tostarp uzņēmumus, valsts iestādes un bezpeļņas organizācijas. Tādēļ trešās puses MI pakalpojuma iegāde organizāciju neizslēdz no paredzētās mērķauditorijas. IEC publikācijas ieraksts

Noderīgs sākumpunkts ir kopīgs pārskats, kurā piedalās drošība, izstrāde, dati, iepirkumi un biznesa īpašnieks. Katram jāspēj izskaidrot sistēmas daļa, ko viņš kontrolē, un lēmumi, kuru pieņemšanā viņš paļaujas uz citiem.

Kāpēc MI sistēmām nepieciešama papildu drošības analīze

MI lietotne savieno vairākas lietas, kas pelna atsevišķu izvērtēšanu: programmatūru, datus, modeļu failus vai pakalpojumus, instrukcijas, lietotājus un turpmākās darbības.

Aplūkosim dokumentu asistentu, kas savienots ar iekšējo zināšanu bāzi. Parasts pārskats var izvērtēt autentifikāciju, šifrēšanu un programmatūras ievainojamības. MI drošības pārskatā būtu arī jājautā, kas notiek, ja izgūts dokuments mēģina mainīt asistenta instrukcijas, vai lietotāji var izgūt materiālus ārpus savām atļaujām un kuras darbības ģenerētais rezultāts var izraisīt.

Šie jautājumi kļūst nozīmīgāki, ja asistents var atjaunināt ierakstus vai izsaukt ārējus rīkus. Nepareizai atbildei un neatļautai darbībai ir atšķirīgas sekas, un tām nepieciešami atšķirīgi aizsardzības pasākumi.

Pirmajam pārskatam kartējiet trīs jautājumus:

• Kas var ietekmēt sistēmu? Iekļaujiet apmācības datus, izgūto saturu, uzvednes, piegādātājus un modeļu atjauninājumus.
• Kas var izkļūt no sistēmas? Iekļaujiet atbildes, žurnālus, eksportus un modeļa aktīvus.
• Ko sistēma var mainīt? Iekļaujiet failus, pieteikumus, kontus, darījumus un citus savienotos pakalpojumus.

Šī ir praktiska tvēruma noteikšanas metode turpmākajiem piemēriem, nevis standarta punktu atveidojums.

MI drošības apdraudējumi, kas jāizprot

Turpmākie skaidrojumi izmanto NIST pretinieciskās mašīnmācīšanās terminoloģiju un OWASP norādījumus par lielo valodas modeļu lietotnēm. Scenāriji ir ilustratīvi. NIST pretinieciskās mašīnmācīšanās taksonomija OWASP norādījumi par uzvednes injekciju OWASP norādījumi par rezultātu apstrādi

Riska novērtēšanas laikā saglabājiet šīs atšķirības skaidras. Ļaunprātīgs dokuments, ko izgūst ar izguvi papildinātas ģenerēšanas (RAG) lietotne, automātiski nav apmācības datu saindēšana: izguve pati par sevi neatjaunina modeļa svarus. Tā vietā tā var padarīt lietotni pakļautu netiešai uzvednes injekcijai.

Lielo valodas modeļu drošībā tikai stingrākas uzvednes ir nepilnīga kontroles stratēģija. OWASP iesaka aizsardzības pasākumus, piemēram, ierobežotas privilēģijas un apstiprinājumu sensitīvām darbībām, savukārt NCSC uzsver uzvednes injekcijas pārvaldību kā pastāvīgu risku ar sistēmas dizaina un darbības palīdzību. OWASP norādījumi par uzvednes injekciju NCSC norādījumi par uzvednes injekcijas risku

ISO 27090 salīdzinājumā ar ISO 27001 un ISO 42001

Šie standarti atbalsta dažādas organizācijas drošības un MI pārvaldības darba daļas.

Atšķirības atbilst izdevēju aprakstiem par ISO 27001, ISO 27002 un ISO 42001.

Komandai, kas jau uztur ISMS, praktiska pieeja ir paplašināt esošos ierakstus. Pievienojiet attiecīgās MI sistēmas aktīvu uzskaitei, novērtējiet to uzbrukuma ceļus, nozīmējiet apstrādes atbildīgos un piesaistiet pamatojošos pierādījumus. Plašāku informāciju par šī darba organizēšanu skatiet ISO 27001 ieviešanas kontrolsarakstā.

Praktisks ISO 27090 ieviešanas kontrolsaraksts

Turpmākie soļi ir ieviešanas pieeja, kas veidota no standarta tematikas un publiskiem drošā MI norādījumiem. Tie nav oficiāls ISO kontrolsaraksts vai obligāto punktu izklāsts.

1. Definējiet sistēmu un tās īpašnieku

Izvēlieties MI lietojuma gadījumu ar skaidru biznesa mērķi. Reģistrējiet atbildīgo īpašnieku, lietotājus, modeļa nodrošinātāju, mitināšanas kārtību un savienotos pakalpojumus.

Pēc tam novelciet pārskata robežu. Iekļaujiet lietotni un tās atkarības, nevis tikai modeļa galapunktu. Klientiem paredzētam asistentam ar piekļuvi rīkiem nepieciešams cits novērtējums nekā iekšējam teksta kopsavilkuma rīkam bez atļaujas rīkoties.

Noderīgs rezultāts: sistēmas ieraksts, kurā norādīts tās mērķis, robežas, atkarības, atļautās darbības un atbildīgais īpašnieks.

2. Izsekojiet datu un modeļu izcelsmi

Reģistrējiet, no kurienes nāk datu kopas un modeļu artefakti, kas tos var mainīt un kuras versijas ir izvietotas. Iekļaujiet sistēmai būtiskās pielāgošanas ievades, izguves kolekcijas, uzvednes un atsauksmju kanālus.

NCSC izstrādes norādījumi iesaka izsekot MI aktīvus un to izcelsmi, tos aizsargāt un saglabāt informāciju, kas nepieciešama uzticamu versiju atjaunošanai. NCSC drošas MI izstrādes norādījumi

Iegādāta modeļa gadījumā jautājiet nodrošinātājam, kurus pienākumus tas uzņemas un kādu informāciju tas dara pieejamu, kad modeļi vai pakalpojumi mainās.

Noderīgs rezultāts: versiju uzskaite ar avotiem, piekļuves noteikumiem, izmaiņu vēsturi un piegādātāju pienākumiem.

3. Modelējiet faktiskās darbplūsmas apdraudējumus

Pārskatiet sistēmu no uzbrucēja skatpunkta. Identificējiet ieejas punktus, sensitīvos aktīvus, atļaujas un veiksmīgas kompromitēšanas sekas. NCSC drošā dizaina norādījumi iesaka apdraudējumu modelēšanu un uzmanību trešo pušu komponentiem un mazāko privilēģiju principam. NCSC drošā MI dizaina norādījumi

Rakstiet konkrētus scenārijus. „MI risks” ir pārāk plašs, lai rosinātu noderīgu darbību. „Ārējas puses augšupielādēts dokuments pārliecina asistentu pieprasīt ierobežotas piekļuves pierādījumu failu” dod komandai kaut ko konkrētu analīzei.

Nosakiet prioritātes atbilstoši ietekmei un iespējamajam kaitējumam. Reģistrējiet, kurš pieņem atlikušo risku un kad šis lēmums būtu jāpārskata.

Noderīgs rezultāts: īss riska reģistrs, kas sasaista uzbrukumu scenārijus ar aktīviem, sekām, aizsardzības pasākumiem un atbildīgajiem.

4. Izvietojiet aizsardzības pasākumus attiecīgajās robežās

Izvēlieties kontroles scenārijam, kuru risināt. Modeļa aktīviem tas var nozīmēt aizsargātu glabāšanu, piekļuves ierobežojumus un integritātes pārbaudes. Izvietotiem pakalpojumiem apsveriet autentifikāciju, vidu nodalīšanu un kontroles, kas mazina neatļautu piekļuvi vai datu izgūšanu. Šīs ir NCSC izvietošanas norādījumu tēmas. NCSC drošas MI izvietošanas norādījumi

Ģenerētajam rezultātam validējiet un kodējiet saturu tā galamērķim, pirms cita sistēma uz tā pamata rīkojas. OWASP rezultātu apstrādes norādījumi skaidro, kāpēc modeļa rezultātam nevajadzētu iegūt pilnvaras tikai tāpēc, ka tas nācis no modeļa. OWASP norādījumi par rezultātu apstrādi

Noderīgs rezultāts: kontroles ieraksts, kurā nosaukta aizsargājamā robeža, tās atbildīgais un pierādījumi, ko izmanto tās pārbaudei.

5. Testējiet visu lietotni

Veidojiet testus ap sekām, kas identificētas jūsu apdraudējumu modelī. RAG asistentam izmantojiet pretinieciskus dokumentus un lietotājus ar dažādām atļaujām. Aģentam pārbaudiet, kas notiek, ja izgūtais saturs lūdz tam pārsniegt atļautās darbības.

Definējiet sagaidāmo rezultātu pirms testa palaišanas. Piemērs: lietotnei jānoraida ierobežotas piekļuves faila pieprasījums pat tad, ja modelis mēģina šo pieprasījumu veikt.

Reģistrējiet lietotnes konfigurāciju, modeļa versiju, testa ievades, rezultātu un jebkādus novēršanas pasākumus. Izvēlieties testa datus, kas nevajadzīgi neatklāj reālu konfidenciālu informāciju.

Noderīgs rezultāts: atkārtojami drošības testi, kas sasaistīti ar konkrētiem riskiem un laidienu lēmumiem.

6. Uzraugiet izmaiņas un sagatavojiet reaģēšanu

Pārskatiet modeļa, datu un uzvedņu atjauninājumu ietekmi. Uzraugiet attiecīgās ievades un rezultātus, vienlaikus aizsargājot sensitīvu informāciju žurnālos. NCSC darbības norādījumi izceļ uzvedības uzraudzību un izmaiņu drošības ietekmi visā darbības laikā. NCSC drošas MI darbības norādījumi

Iepriekš izlemiet, kurš var atspējot rīku, atsaukt akreditācijas datus, izolēt integrāciju vai atgriezt laidienu. Nosakiet pārskatīšanas ierosinātājus, piemēram, jaunu nodrošinātāju, paplašinātas atļaujas, būtisku modeļa atjauninājumu vai drošības incidentu.

Noderīgs rezultāts: uzraudzības pienākumi, izmaiņu pārskatīšanas kritēriji, incidentu reaģēšanas procedūra un pārbaudīts atjaunošanas ceļš.

MI drošības risku pārvēršana pierādījumos

Tālāk redzamā tabula ir ieteicama darba veidne. Tās pierādījumu piemēri ir praktiski ieteikumi, nevis ISO 27090 noteiktu dokumentu saraksts.

Piemēram, iedomājieties drošības komandu, kas izmanto asistentu klientu pierādījumu apkopošanai. Piegādātāja dokumentā ir instrukcijas augšupielādēt pierādījumus uz ārēju adresi.

Komandas testam būtu jāizseko mēģinātā darbība cauri lietotnei. Vai asistentam ir rīks, kas var augšupielādēt failus? Vai šis rīks ievēro lietotāja atļaujas? Vai galamērķi ir ierobežoti? Vai pārsūtīšanas apstiprināšanai nepieciešama atbildīga persona?

Noderīgs pārskata ieraksts identificētu scenāriju, robežu, kas novērš pārsūtīšanu, testa rezultātu un personu, kas apstiprināja atlikušo risku. Ja sistēma mainās, šis ieraksts nākamajam pārskatītājam pasaka, kas jāpārbauda atkārtoti.

Šī pieeja piešķir novērtējumam vairāk satura nekā apgalvojums, ka sistēma izmanto „atbildīgu MI”. Tā sasaista drošības lēmumu ar kaut ko, ko cits cilvēks var pārbaudīt. Vairāk par pamatojošo materiālu organizēšanu lasiet rakstā kā strukturēt gatavību auditam.

ISO 27090 sertifikācija un prasības

ISO 27090 sniedz drošības norādījumus, nevis pārvaldības sistēmas sertifikācijas prasības. ISO skaidrojums nošķir tā mērķi no AIMS prasībām ISO 42001. ISO skaidrojums par ISO 27090

Vispirms nosakiet, kāda pārliecība jums nepieciešama: drošības pārskats, atbilde uz klienta pārliecības pieprasījumu, iekšējs nepilnību novērtējums vai sertifikācija atbilstoši piemērojamam pārvaldības sistēmas standartam.

Lūdziet ikvienam, kas piedāvā novērtējumu, norādīt tā tvērumu, kritērijus un pārliecības shēmu. Tas atvieglo rezultāta interpretāciju un ļauj nesajaukt MI drošības prakšu pārskatu ar pārvaldības sistēmas sertifikāciju.

Ieviešanas projektam iegādājieties publicēto standartu, salīdziniet norādījumus ar savām sistēmām un reģistrējiet, kāpēc konkrēti aizsardzības pasākumi ir piemēroti. Šī raksta piemēri sniedz sākotnēju struktūru šim darbam.

ISO 27090 un ES MI akts

Starptautiska standarta piemērošana automātiski nenodrošina atbilstību ES MI aktam. 40. pants saista atbilstības prezumpciju ar saskaņotajiem standartiem, kuru atsauces ir publicētas Eiropas Savienības Oficiālajā Vēstnesī, un tikai tiktāl, ciktāl tie aptver attiecīgās prasības vai pienākumus. ES MI akta 40. pants

Izmantojiet ISO 27090 drošības pārskatu kā vienu no ievadēm atsevišķi noteikta tvēruma atbilstības novērtējumam. Saglabājiet ierakstu par izvērtējamo juridisko pienākumu, to pamatojošajiem pierādījumiem un jebkādām atlikušajām nepilnībām.

Biežāk uzdotie jautājumi par ISO 27090

Kad tika publicēts ISO 27090?

Pirmais izdevums, ISO/IEC 27090:2026, tika publicēts 2026. gada 14. oktobrī. Pārbaudiet izdevēja aktuālo ierakstu, ja vecākos materiālos minēts projekts vai agrāks gads. IEC publikācijas ieraksts

Vai ISO 27090 aptver ģeneratīvā MI un lielo valodas modeļu drošību?

Tā publicētais saturs ietver uzvednes injekciju un sensitīvus modeļa rezultātus, tāpēc tas ir būtisks ģeneratīvā MI drošībai. Tā tvērums ietver arī citas MI sistēmas. Publicētā standarta ISO/IEC 27090 paraugs ISO skaidrojums par ISO 27090

Vai uzņēmums, kas izmanto trešās puses MI, var piemērot šo standartu?

Jā. Norādītā mērķauditorija ietver gan organizācijas, kas izmanto MI, gan organizācijas, kas to izstrādā. Sāciet ar riskiem un pienākumiem, kas ir jūsu kontrolē, un nosakiet, kas jums jāzina par saviem piegādātājiem. IEC publikācijas ieraksts

Vai ISO 27001 sertifikācija nozīmē, ka MI sistēma ir droša?

Pārvaldības sistēmas sertifikācija negarantē, ka atsevišķa lietotne izturēs ikvienu uzbrukumu. Izmantojiet pārvaldības sistēmu riska lēmumu organizēšanai un novērtējiet MI sistēmas faktisko dizainu, konfigurāciju un uzvedību. ISO 27090 var palīdzēt šo drošības darbu virzīt.

Kur var iegūt ISO 27090 PDF?

Publicētajam standartam un licencēšanas iespējām izmantojiet oficiālo ISO katalogu vai IEC Webstore. Pārbaudiet, vai apzīmējums ir ISO/IEC 27090:2026. Raksts vai priekšskatījums sniedz tikai daļu materiāla.

Padariet MI drošības darbu pārskatāmu

Sāciet ar vienu nozīmīgu MI lietojuma gadījumu. Nosakiet, kā to varētu kompromitēt, izvēlieties aizsardzības pasākumus attiecīgajām robežām un definējiet pierādījumus, kas parādīs, ka šie pasākumi darbojas. Katrai darbībai nozīmējiet atbildīgo un pārskatīšanas ierosinātāju.

Secani sasaista prasības, riskus, kontroles, pierādījumus, atbildīgos un pārskatīšanas lēmumus kopīgā drošības un atbilstības darba telpā. Sazinieties ar Secani, lai organizētu savu MI drošības darbu tā, lai komandas redzētu, kas ir novērtēts, kam nepieciešama uzmanība un kurš ir atbildīgs.