ISO 27090 pojasnjen za ekipe za varnost UI

ISO/IEC 27090:2026 je mednarodni standard, ki daje smernice o varnostnih grožnjah in kompromitacijah, ki prizadenejo sisteme umetne inteligence. Objavljen je bil 14. oktobra 2026 in obravnava, kako lahko organizacije te grožnje razumejo, zaznajo in omilijo v celotnem življenjskem ciklu UI. Njegov uradni naslov je Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems. Zapis o objavi pri ISO

Za varnostno ekipo je praktično vprašanje preprosto: kaj bi napadalec lahko spremenil, ukradel ali sistem UI prisilil narediti in kaj bi omejilo nastalo škodo?

Ta vodnik pojasnjuje področje uporabe standarda ISO 27090, glavne varnostne grožnje za UI, njegov odnos do ISO 27001 in ISO 42001 ter praktičen način, kako smernice pretvoriti v varnostno delo z lastniki, zaščitnimi ukrepi in dokazili. Raziskava, na kateri temelji, je bila preverjena 18. oktobra 2026.

Kaj zajema standard ISO 27090

ISO 27090 se osredotoča na zaščito sistemov UI. Njegova tema presega generativno UI, velike jezikovne modele in klepetalne robote ter zajema sisteme UI na splošno. Pojasnilo ISO o standardu ISO 27090

Objavljeni standard povezuje uveljavljene prakse informacijske varnosti z grožnjami, značilnimi za UI. Njegova vsebina obravnava upravljanje, varnost dobavne verige, modeliranje groženj in red teaming, nato pa vrste kompromitacij, med njimi zastrupitev, izogibanje, razkritje informacij in vbrizgavanje pozivov. Obravnava tudi, kako blažilni ukrepi medsebojno delujejo in kako ostanejo učinkoviti skozi čas. Objavljeni vzorec ISO/IEC 27090

Področje uporabe vključuje organizacije vseh velikosti, ki razvijajo ali uporabljajo UI, med njimi podjetja, vladne organe in neprofitne organizacije. Nakup storitve UI tretje osebe torej organizacije ne postavi zunaj predvidenega občinstva. Zapis o objavi pri IEC

Uporabno izhodišče je skupen pregled, v katerem sodelujejo varnost, inženiring, podatki, nabava in poslovni lastnik. Vsak od njih bi moral znati pojasniti del sistema, ki ga nadzoruje, in odločitve, za katere je odvisen od drugih.

Zakaj sistemi UI potrebujejo dodatno varnostno analizo

Aplikacija UI povezuje več elementov, ki si zaslužijo ločeno preučitev: programsko opremo, podatke, datoteke ali storitve modelov, navodila, uporabnike in nadaljnja dejanja.

Vzemimo asistenta za dokumente, povezanega z notranjo bazo znanja. Običajen pregled lahko preuči avtentikacijo, šifriranje in ranljivosti programske opreme. Varnostni pregled UI bi moral vprašati tudi, kaj se zgodi, če pridobljeni dokument poskuša spremeniti navodila asistenta, ali lahko uporabniki pridobijo gradivo zunaj svojih pooblastil in katera dejanja lahko sproži ustvarjeni izhod.

Ta vprašanja postanejo pomembnejša, ko lahko asistent posodablja zapise ali kliče zunanja orodja. Napačen odgovor in nepooblaščeno dejanje imata različne posledice in potrebujeta različne zaščitne ukrepe.

Za prvi pregled odgovorite na tri vprašanja:

• Kaj lahko vpliva na sistem? Vključite učne podatke, pridobljeno vsebino, pozive, dobavitelje in posodobitve modelov.
• Kaj lahko zapusti sistem? Vključite odgovore, dnevnike, izvoze in sredstva modelov.
• Kaj lahko sistem spremeni? Vključite datoteke, zahtevke, račune, transakcije in druge povezane storitve.

To je praktična metoda za določitev obsega spodnjih primerov, ne povzetek točk standarda.

Varnostne grožnje za UI, ki jih je treba razumeti

Naslednja pojasnila uporabljajo NIST-ovo terminologijo adversarialnega strojnega učenja in smernice OWASP za aplikacije LLM. Scenariji so ponazoritveni. NIST-ova taksonomija adversarialnega strojnega učenja Smernice OWASP o vbrizgavanju pozivov Smernice OWASP o obravnavi izhoda

Med ocenjevanjem tveganj ohranite te razlike jasne. Zlonameren dokument, ki ga pridobi aplikacija z generiranjem, obogatenim s pridobivanjem (RAG), ni samodejno zastrupitev učnih podatkov: pridobivanje samo po sebi ne posodablja uteži modela. Namesto tega lahko aplikacijo izpostavi posrednemu vbrizgavanju pozivov.

Za varnost LLM so močnejši pozivi sami po sebi nepopolna strategija nadzora. OWASP priporoča zaščitne ukrepe, kot so omejene pravice in odobritev občutljivih dejanj, NCSC pa poudarja, da je vbrizgavanje pozivov treba upravljati kot trajno tveganje z zasnovo in delovanjem sistema. Smernice OWASP o vbrizgavanju pozivov Smernice NCSC o tveganju vbrizgavanja pozivov

ISO 27090 v primerjavi z ISO 27001 in ISO 42001

Ti standardi podpirajo različne dele dela organizacije na področju varnosti in upravljanja UI.

Razlike sledijo opisom izdajateljev za ISO 27001, ISO 27002 in ISO 42001.

Za ekipo, ki že upravlja ISMS, je praktičen pristop razširitev obstoječih zapisov. Ustrezne sisteme UI dodajte v register sredstev, ocenite njihove poti napada, določite lastnike obravnave in povežite podporna dokazila. Za ozadje o organizaciji tega dela si oglejte kontrolni seznam za uvedbo ISO 27001.

Praktični kontrolni seznam za uvedbo ISO 27090

Spodnji koraki so pristop k uvedbi, oblikovan na podlagi vsebine standarda in javnih smernic za varno UI. Niso uradni kontrolni seznam ISO niti navedba obveznih točk.

1. Opredelite sistem in njegovega lastnika

Izberite primer uporabe UI z jasnim poslovnim namenom. Zabeležite odgovornega lastnika, uporabnike, ponudnika modela, način gostovanja in povezane storitve.

Nato zarišite mejo pregleda. Vključite aplikacijo in njene odvisnosti, ne le končne točke modela. Asistent za stranke z dostopom do orodij potrebuje drugačno oceno kot notranji povzemalnik besedil brez pooblastila za izvajanje dejanj.

Uporaben rezultat: zapis o sistemu, ki navaja njegov namen, meje, odvisnosti, dovoljena dejanja in odgovornega lastnika.

2. Sledite izvoru podatkov in modelov

Zabeležite, od kod izvirajo nabori podatkov in artefakti modelov, kdo jih lahko spreminja in katere različice so uvedene. Vključite vhode za dodatno učenje, zbirke za pridobivanje, pozive in kanale povratnih informacij, ki so pomembni za sistem.

Smernice NCSC za razvoj priporočajo sledenje sredstvom UI in njihovemu izvoru, njihovo zaščito in hrambo informacij, potrebnih za obnovitev zaupanja vrednih različic. Smernice NCSC za varen razvoj UI

Pri kupljenem modelu ponudnika vprašajte, katere odgovornosti prevzema in katere informacije da na voljo, ko se modeli ali storitve spremenijo.

Uporaben rezultat: register z različicami, viri, pravili dostopa, zgodovino sprememb in odgovornostmi dobaviteljev.

3. Modelirajte grožnje za dejanski potek dela

Sistem preglejte z vidika napadalca. Ugotovite vstopne točke, občutljiva sredstva, pooblastila in posledice uspešne kompromitacije. Smernice NCSC za varno zasnovo priporočajo modeliranje groženj ter pozornost na komponente tretjih oseb in načelo najmanjših pravic. Smernice NCSC za varno zasnovo UI

Napišite konkretne scenarije. „Tveganje UI“ je preširoko, da bi spodbudilo koristno ukrepanje. „Dokument, ki ga naloži zunanja stranka, asistenta prepriča, da zahteva omejeno datoteko z dokazili“ ekipi da nekaj konkretnega za analizo.

Prednostno razvrstite glede na izpostavljenost in morebitno škodo. Zabeležite, kdo sprejme preostalo tveganje in kdaj je treba to odločitev ponovno pregledati.

Uporaben rezultat: kratek register tveganj, ki scenarije napadov povezuje s sredstvi, posledicami, zaščitnimi ukrepi in lastniki.

4. Zaščitne ukrepe postavite na ustrezne meje

Izberite kontrole za scenarij, ki ga obravnavate. Pri sredstvih modelov lahko to vključuje zaščiteno hrambo, omejitve dostopa in preverjanja celovitosti. Pri uvedenih storitvah razmislite o avtentikaciji, ločevanju okolij in kontrolah, ki zmanjšujejo nepooblaščen dostop ali iznos podatkov. To so teme smernic NCSC za uvajanje. Smernice NCSC za varno uvajanje UI

Pri ustvarjenem izhodu vsebino preverite in kodirajte za njen cilj, preden na njeni podlagi ukrepa drug sistem. Smernice OWASP o obravnavi izhoda pojasnjujejo, zakaj izhod modela ne bi smel pridobiti avtoritete zgolj zato, ker izvira iz modela. Smernice OWASP o obravnavi izhoda

Uporaben rezultat: zapis o kontroli, ki navaja mejo, ki jo varuje, njenega lastnika in dokazila, s katerimi se preverja.

5. Testirajte celotno aplikacijo

Teste zasnujte okoli posledic, ugotovljenih v modelu groženj. Pri asistentu RAG uporabite adversarialne dokumente in uporabnike z različnimi pooblastili. Pri agentu testirajte, kaj se zgodi, ko ga pridobljena vsebina prosi, naj preseže dovoljena dejanja.

Pričakovani rezultat opredelite pred izvedbo testa. Primer: aplikacija mora zavrniti zahtevo za omejeno datoteko, tudi če model to zahtevo poskuša podati.

Zabeležite konfiguracijo aplikacije, različico modela, testne vhode, rezultat in morebitno odpravo pomanjkljivosti. Izberite testne podatke, ki po nepotrebnem ne razkrivajo resničnih zaupnih informacij.

Uporaben rezultat: ponovljivi varnostni testi, povezani s konkretnimi tveganji in odločitvami o izdaji.

6. Spremljajte spremembe in pripravite odziv

Preglejte učinek posodobitev modelov, podatkov in pozivov. Spremljajte ustrezne vhode in izhode ter pri tem v dnevnikih varujte občutljive informacije. Smernice NCSC za delovanje poudarjajo spremljanje vedenja in varnostne posledice sprememb skozi celotno delovanje. Smernice NCSC za varno delovanje UI

Vnaprej določite, kdo lahko onemogoči orodje, prekliče poverilnico, izolira integracijo ali povrne izdajo. Določite sprožilce pregleda, kot so nov ponudnik, razširjena pooblastila, pomembna posodobitev modela ali varnostni incident.

Uporaben rezultat: odgovornosti za spremljanje, merila za pregled sprememb, postopek odziva na incidente in preizkušena pot obnovitve.

Kako varnostna tveganja UI pretvoriti v dokazila

Spodnja tabela je predlagana delovna predloga. Njeni primeri dokazil so praktična priporočila, ne seznam dokumentov, ki jih predpisuje ISO 27090.

Predstavljajte si na primer varnostno ekipo, ki z asistentom povzema dokazila strank. Dokument dobavitelja vsebuje navodila, naj se dokazila naložijo na zunanji naslov.

Test ekipe bi moral poskušano dejanje slediti skozi aplikacijo. Ali ima asistent orodje, ki lahko nalaga datoteke? Ali to orodje uveljavlja pooblastila uporabnika? Ali so cilji omejeni? Ali mora prenos odobriti odgovorna oseba?

Uporaben zapis o pregledu bi opredelil scenarij, mejo, ki preprečuje prenos, rezultat testa in osebo, ki je odobrila preostalo tveganje. Če se sistem spremeni, ta zapis naslednjemu pregledovalcu pove, kaj je treba ponovno preveriti.

Ta pristop da oceni več vsebine kot trditev, da sistem uporablja „odgovorno UI“. Varnostno odločitev poveže z nečim, kar lahko pregleda druga oseba. Več o organizaciji podpornega gradiva preberite v članku kako strukturirati pripravljenost na presojo.

Certifikacija in zahteve ISO 27090

ISO 27090 daje varnostne smernice, ne pa zahtev za certifikacijo sistema upravljanja. Pojasnilo ISO njegov namen razlikuje od zahtev za AIMS v ISO 42001. Pojasnilo ISO o standardu ISO 27090

Najprej opredelite, kakšno zagotovilo potrebujete: varnostni pregled, odgovor za zagotovilo stranki, notranjo oceno vrzeli ali certifikacijo po ustreznem standardu za sistem upravljanja.

Vsakogar, ki ponuja oceno, prosite, naj navede njen obseg, merila in shemo zagotavljanja. Tako je rezultat lažje razumeti in se izognete zamenjavi pregleda varnostnih praks UI s certifikacijo sistema upravljanja.

Pri projektu uvedbe pridobite objavljeni standard, smernice preglejte glede na lastne sisteme in zabeležite, zakaj so določeni zaščitni ukrepi primerni. Primeri v tem članku so začetna struktura za to delo.

ISO 27090 in Akt EU o umetni inteligenci

Uporaba mednarodnega standarda ne zagotavlja samodejno skladnosti z Aktom EU o umetni inteligenci. Člen 40 domnevo o skladnosti povezuje s harmoniziranimi standardi, katerih sklici so bili objavljeni v Uradnem listu EU, in to le v obsegu, v katerem zajemajo ustrezne zahteve ali obveznosti. Člen 40 Akta EU o umetni inteligenci

Varnostni pregled po ISO 27090 uporabite kot enega od vhodov v ločeno opredeljeno oceno skladnosti. Zabeležite pravno obveznost, ki se ocenjuje, dokazila, ki jo podpirajo, in morebitno preostalo vrzel.

Pogosta vprašanja o ISO 27090

Kdaj je bil ISO 27090 objavljen?

Prva izdaja, ISO/IEC 27090:2026, je bila objavljena 14. oktobra 2026. Ko se starejše gradivo sklicuje na osnutek ali prejšnje leto, preverite aktualni zapis izdajatelja. Zapis o objavi pri IEC

Ali ISO 27090 zajema generativno UI in varnost LLM?

Njegova objavljena vsebina vključuje vbrizgavanje pozivov in občutljive izhode modelov, zato je pomemben za varnost generativne UI. Njegovo področje uporabe zajema tudi druge sisteme UI. Objavljeni vzorec ISO/IEC 27090 Pojasnilo ISO o standardu ISO 27090

Ali lahko standard uporablja podjetje, ki uporablja UI tretjih oseb?

Da. Navedeno občinstvo vključuje organizacije, ki UI uporabljajo, in tudi organizacije, ki jo razvijajo. Začnite s tveganji in odgovornostmi, ki so pod vašim nadzorom, in ugotovite, kaj morate vedeti o svojih dobaviteljih. Zapis o objavi pri IEC

Ali certifikat ISO 27001 pomeni, da je sistem UI varen?

Certifikat sistema upravljanja ni jamstvo, da bo posamezna aplikacija vzdržala vsak napad. Sistem upravljanja uporabite za organizacijo odločitev o tveganjih, dejansko zasnovo, konfiguracijo in vedenje sistema UI pa ocenite. ISO 27090 lahko pomaga pri tem varnostnem delu.

Kje lahko dobim ISO 27090 v PDF-obliki?

Za objavljeni standard in možnosti licenciranja uporabite uradni katalog ISO ali IEC Webstore. Preverite, da je oznaka ISO/IEC 27090:2026. Članek ali predogled vsebuje le del gradiva.

Naj bo varnostno delo na področju UI preverljivo

Začnite z enim primerom uporabe UI s pomembnimi posledicami. Ugotovite, kako bi ga bilo mogoče kompromitirati, izberite zaščitne ukrepe za ustrezne meje in opredelite dokazila, ki bodo pokazala, da ti ukrepi delujejo. Vsakemu dejanju določite lastnika in sprožilec pregleda.

Secani povezuje zahteve, tveganja, kontrole, dokazila, lastnike in odločitve pregledov v skupnem delovnem prostoru za varnost in skladnost. Pogovorite se s Secani o organizaciji vašega varnostnega dela na področju UI, da bodo ekipe videle, kaj je bilo ocenjeno, kaj potrebuje pozornost in kdo je odgovoren.