ISO 27090 selgitatud tehisintellekti turvalisuse meeskondadele

ISO/IEC 27090:2026 on rahvusvaheline standard, mis annab juhiseid tehisintellektisüsteeme mõjutavate turvaohtude ja kompromiteerimiste kohta. See avaldati 14. oktoobril 2026 ning käsitleb seda, kuidas organisatsioonid saavad neid ohte kogu tehisintellekti elutsükli vältel mõista, avastada ja leevendada. Standardi ametlik pealkiri on Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems. ISO avaldamiskirje

Turvameeskonna jaoks on praktiline küsimus lihtne: mida saaks ründaja tehisintellektisüsteemis muuta, sealt varastada või panna süsteemi tegema ning mis piiraks sellest tulenevat kahju?

See juhend selgitab ISO 27090 standardi käsitlusala, peamisi tehisintellekti turvaohte, standardi seost ISO 27001 ja ISO 42001-ga ning praktilist viisi, kuidas muuta juhised turvatööks, millel on vastutajad, kaitsemeetmed ja tõendid. Selle aluseks olev uurimistöö kontrolliti üle 18. oktoobril 2026.

Mida ISO 27090 standard hõlmab

ISO 27090 keskendub tehisintellektisüsteemide kaitsmisele. Selle teema ulatub generatiivsest tehisintellektist, suurtest keelemudelitest ja vestlusrobotitest kaugemale ning hõlmab tehisintellektisüsteeme laiemalt. ISO selgitus ISO 27090 kohta

Avaldatud standard ühendab väljakujunenud infoturbe praktikad tehisintellektile omaste ohtudega. Selle sisu käsitleb juhtimist, tarneahela turvalisust, ohtude modelleerimist ja punase meeskonna teste (red teaming), millele järgnevad kompromiteerimise liigid, sealhulgas mürgitamine, kõrvalehiilimine, teabe paljastamine ja viibasüst (prompt injection). Samuti vaadeldakse, kuidas leevendusmeetmed omavahel toimivad ja aja jooksul tõhusaks jäävad. Avaldatud ISO/IEC 27090 näidis

Käsitlusala hõlmab igas suuruses organisatsioone, mis arendavad või kasutavad tehisintellekti, sealhulgas ettevõtteid, avaliku sektori asutusi ja mittetulundusühinguid. Kolmanda osapoole tehisintellektiteenuse ostmine ei vii seega organisatsiooni sihtrühmast välja. IEC avaldamiskirje

Kasulik lähtepunkt on ühine ülevaatus, milles osalevad turvalisus, arendus, andmed, hanked ja äripoolne omanik. Igaüks neist peaks oskama selgitada süsteemi osa, mida ta kontrollib, ja otsuseid, mille tegemisel ta sõltub teistest.

Miks vajavad tehisintellektisüsteemid täiendavat turvaanalüüsi

Tehisintellektirakendus ühendab mitut asja, mis väärivad eraldi läbivaatamist: tarkvara, andmeid, mudelifaile või -teenuseid, juhiseid, kasutajaid ja järgnevaid tegevusi.

Võtame näiteks dokumendiassistendi, mis on ühendatud sisemise teadmusbaasiga. Tavapärane ülevaatus võib uurida autentimist, krüpteerimist ja tarkvara haavatavusi. Tehisintellekti turvaülevaatus peaks lisaks küsima, mis juhtub, kui leitud dokument püüab assistendi juhiseid muuta, kas kasutajad saavad kätte materjali väljaspool oma õigusi ja milliseid tegevusi saab genereeritud väljund käivitada.

Need küsimused muutuvad olulisemaks, kui assistent saab kirjeid uuendada või väliseid tööriistu kasutada. Vale vastus ja volitamata tegevus toovad kaasa erinevad tagajärjed ning vajavad erinevaid kaitsemeetmeid.

Esimese ülevaatuse jaoks kaardistage kolm küsimust:

• Mis saab süsteemi mõjutada? Arvestage treeningandmeid, leitud sisu, viipasid, tarnijaid ja mudeliuuendusi.
• Mis saab süsteemist välja liikuda? Arvestage vastuseid, logisid, eksporte ja mudeli varasid.
• Mida saab süsteem muuta? Arvestage faile, pileteid, kontosid, tehinguid ja muid ühendatud teenuseid.

See on praktiline käsitlusala määramise meetod allpool toodud näidete jaoks, mitte standardi punktide kordamine.

Tehisintellekti turvaohud, mida mõista

Järgmised selgitused kasutavad NISTi vastandliku masinõppe terminoloogiat ja OWASPi juhiseid suurte keelemudelite rakenduste kohta. Stsenaariumid on illustratiivsed. NISTi vastandliku masinõppe taksonoomia OWASPi juhised viibasüsti kohta OWASPi juhised väljundi käsitlemise kohta

Hoidke riskihindamise ajal need eristused selged. Pahatahtlik dokument, mille otsingul põhinev genereerimine (RAG) leiab, ei ole automaatselt treeningandmete mürgitamine: otsing iseenesest mudeli kaalusid ei uuenda. Selle asemel võib see muuta rakenduse vastuvõtlikuks kaudsele viibasüstile.

Suurte keelemudelite turvalisuse puhul on üksnes tugevamad viibad puudulik kontrollistrateegia. OWASP soovitab kaitsemeetmeid, nagu piiratud õigused ja tundlike tegevuste heakskiitmine, samas kui NCSC rõhutab viibasüsti haldamist jätkuva riskina süsteemi disaini ja käitamise kaudu. OWASPi juhised viibasüsti kohta NCSC juhised viibasüsti riski kohta

ISO 27090 vs ISO 27001 ja ISO 42001

Need standardid toetavad organisatsiooni turvalisuse ja tehisintellekti juhtimise töö eri osi.

Eristused järgivad väljaandjate kirjeldusi standardite ISO 27001, ISO 27002 ja ISO 42001 kohta.

Meeskonnale, kes juba käitab ISMS-i, on praktiline lähenemine olemasolevate kirjete laiendamine. Lisage asjakohased tehisintellektisüsteemid varade inventari, hinnake nende ründeteid, määrake käsitluse vastutajad ja linkige toetavad tõendid. Selle töö korraldamise tausta kohta vaadake ISO 27001 juurutamise kontrollnimekirja.

Praktiline ISO 27090 juurutamise kontrollnimekiri

Allpool toodud sammud on juurutamise lähenemisviis, mis põhineb standardi teemadel ja avalikel turvalise tehisintellekti juhistel. Need ei ole ametlik ISO kontrollnimekiri ega kohustuslike punktide loetelu.

1. Määratlege süsteem ja selle omanik

Valige selge äriotstarbega tehisintellekti kasutusjuht. Registreerige vastutav omanik, kasutajad, mudeli pakkuja, majutuskorraldus ja ühendatud teenused.

Seejärel tõmmake ülevaatuse piir. Kaasake rakendus ja selle sõltuvused, mitte ainult mudeli otspunkt. Tööriistadele juurdepääsuga klientidele suunatud assistent vajab teistsugust hindamist kui sisemine tekstikokkuvõtja, millel puudub õigus tegutseda.

Kasulik väljund: süsteemi kirje, mis märgib selle eesmärgi, piirid, sõltuvused, lubatud tegevused ja vastutava omaniku.

2. Jälgige andmete ja mudeli päritolu

Registreerige, kust andmestikud ja mudeli artefaktid pärinevad, kes saab neid muuta ja millised versioonid on kasutusele võetud. Kaasake süsteemi jaoks asjakohased peenhäälestuse sisendid, otsingukogud, viibad ja tagasisidekanalid.

NCSC arendusjuhised soovitavad tehisintellekti varasid ja nende päritolu jälgida, neid kaitsta ning säilitada teavet, mis on vajalik usaldusväärsete versioonide taastamiseks. NCSC turvalise tehisintellekti arenduse juhised

Ostetud mudeli puhul küsige pakkujalt, milliste kohustuste eest ta vastutab ja millist teavet ta mudelite või teenuste muutumisel kättesaadavaks teeb.

Kasulik väljund: versioonitud inventar koos allikate, juurdepääsureeglite, muudatuste ajaloo ja tarnijate kohustustega.

3. Modelleerige tegeliku töövoo ohud

Vaadake süsteem üle ründaja vaatenurgast. Tuvastage sisenemispunktid, tundlikud varad, õigused ja eduka kompromiteerimise tagajärjed. NCSC turvalise disaini juhised soovitavad ohtude modelleerimist ning tähelepanu kolmandate osapoolte komponentidele ja vähimate õiguste põhimõttele. NCSC turvalise tehisintellekti disaini juhised

Kirjutage konkreetsed stsenaariumid. „Tehisintellekti risk“ on liiga lai, et viia kasuliku tegevuseni. „Välise osapoole üles laaditud dokument veenab assistenti küsima piiratud juurdepääsuga tõendifaili“ annab meeskonnale midagi konkreetset analüüsimiseks.

Seadke prioriteedid vastavalt kokkupuutele ja võimalikule kahjule. Registreerige, kes aktsepteerib allesjäävat riski ja millal tuleks see otsus uuesti läbi vaadata.

Kasulik väljund: lühike riskiregister, mis seob ründestsenaariumid varade, tagajärgede, kaitsemeetmete ja vastutajatega.

4. Paigutage kaitsemeetmed asjakohastele piiridele

Valige meetmed stsenaariumi jaoks, mida käsitlete. Mudeli varade puhul võib see tähendada kaitstud salvestust, juurdepääsupiiranguid ja terviklikkuse kontrolle. Kasutusele võetud teenuste puhul kaaluge autentimist, keskkondade eraldamist ja meetmeid, mis vähendavad volitamata juurdepääsu või andmete väljaviimist. Need on NCSC juurutamisjuhiste teemad. NCSC turvalise tehisintellekti juurutamise juhised

Genereeritud väljundi puhul valideerige ja kodeerige sisu selle sihtkoha jaoks enne, kui mõni teine süsteem selle põhjal tegutseb. OWASPi väljundi käsitlemise juhised selgitavad, miks mudeli väljund ei tohiks saada volitusi üksnes seetõttu, et see pärineb mudelilt. OWASPi juhised väljundi käsitlemise kohta

Kasulik väljund: meetme kirje, mis nimetab kaitstava piiri, selle vastutaja ja kontrollimiseks kasutatavad tõendid.

5. Testige kogu rakendust

Kavandage testid oma ohumudelis tuvastatud tagajärgede ümber. RAG-assistendi puhul kasutage vastandlikke dokumente ja erinevate õigustega kasutajaid. Agendi puhul testige, mis juhtub, kui leitud sisu palub tal ületada lubatud tegevusi.

Määratlege oodatav tulemus enne testi käivitamist. Näide: rakendus peab keelduma piiratud juurdepääsuga faili päringust isegi siis, kui mudel üritab seda päringut teha.

Registreerige rakenduse konfiguratsioon, mudeli versioon, testsisendid, tulemus ja võimalik parandustegevus. Valige testandmed, mis ei paljasta asjatult tegelikku konfidentsiaalset teavet.

Kasulik väljund: korratavad turvatestid, mis on seotud konkreetsete riskide ja väljalaskeotsustega.

6. Jälgige muudatusi ja valmistage ette reageerimine

Vaadake üle mudeli, andmete ja viipade uuenduste mõju. Jälgige asjakohaseid sisendeid ja väljundeid, kaitstes samal ajal logides olevat tundlikku teavet. NCSC käitamisjuhised rõhutavad käitumise jälgimist ja muudatuste turvamõjusid kogu käitamise vältel. NCSC turvalise tehisintellekti käitamise juhised

Otsustage eelnevalt, kes saab tööriista välja lülitada, mandaadi tühistada, integratsiooni isoleerida või väljalaske tagasi pöörata. Määrake ülevaatuse käivitajad, nagu uus pakkuja, laiendatud õigused, oluline mudeliuuendus või turvaintsident.

Kasulik väljund: jälgimise kohustused, muudatuste ülevaatuse kriteeriumid, intsidendile reageerimise kord ja testitud taastamistee.

Tehisintellekti turvariskide muutmine tõenditeks

Allolev tabel on soovituslik töömall. Selle tõendinäited on praktilised soovitused, mitte ISO 27090 nõutavate dokumentide loetelu.

Kujutlege näiteks turvameeskonda, mis kasutab assistenti klientide tõendite kokkuvõtmiseks. Tarnija dokument sisaldab juhiseid laadida tõendid üles välisele aadressile.

Meeskonna test peaks jälgima üritatud tegevust läbi kogu rakenduse. Kas assistendil on tööriist, mis saab faile üles laadida? Kas see tööriist jõustab kasutaja õigusi? Kas sihtkohad on piiratud? Kas edastamise heakskiitmiseks on vaja vastutavat isikut?

Kasulik ülevaatuse kirje tuvastaks stsenaariumi, edastamist takistava piiri, testi tulemuse ja isiku, kes allesjäänud riski heaks kiitis. Kui süsteem muutub, ütleb see kirje järgmisele ülevaatajale, mida tuleb uuesti kontrollida.

See lähenemine annab hindamisele rohkem sisu kui väide, et süsteem kasutab „vastutustundlikku tehisintellekti“. See seob turvaotsuse millegagi, mida teine inimene saab kontrollida. Toetava materjali korraldamise kohta lugege lähemalt artiklist kuidas struktureerida auditivalmidust.

ISO 27090 sertifitseerimine ja nõuded

ISO 27090 annab turvajuhiseid, mitte juhtimissüsteemi sertifitseerimise nõudeid. ISO selgitus eristab selle eesmärki ISO 42001 AIMS-i nõuetest. ISO selgitus ISO 27090 kohta

Kõigepealt määratlege, millist kindlust vajate: turvaülevaatust, vastust kliendi kindlustaotlusele, sisemist lünkade hindamist või sertifitseerimist kohaldatava juhtimissüsteemi standardi alusel.

Paluge igaühel, kes pakub hindamist, nimetada selle ulatus, kriteeriumid ja kindlustandmise skeem. See muudab tulemuse tõlgendamise lihtsamaks ja väldib tehisintellekti turvapraktikate ülevaatuse segiajamist juhtimissüsteemi sertifitseerimisega.

Juurutamisprojekti puhul hankige avaldatud standard, võrrelge juhiseid oma süsteemidega ja registreerige, miks konkreetsed kaitsemeetmed on asjakohased. Selle artikli näited annavad sellele tööle lähtestruktuuri.

ISO 27090 ja ELi tehisintellekti määrus

Rahvusvahelise standardi rakendamine ei tõenda automaatselt vastavust ELi tehisintellekti määrusele. Artikkel 40 seob vastavuseelduse harmoneeritud standarditega, mille viited on avaldatud Euroopa Liidu Teatajas, ja üksnes ulatuses, milles need hõlmavad asjakohaseid nõudeid või kohustusi. ELi tehisintellekti määruse artikkel 40

Kasutage ISO 27090 turvaülevaatust ühe sisendina eraldi ulatusega vastavushindamisele. Säilitage kirje hinnatava õigusliku kohustuse, seda toetavate tõendite ja allesjäänud lünkade kohta.

Korduma kippuvad küsimused ISO 27090 kohta

Millal ISO 27090 avaldati?

Esimene väljaanne, ISO/IEC 27090:2026, avaldati 14. oktoobril 2026. Kontrollige väljaandja ajakohast kirjet, kui vanemas materjalis viidatakse kavandile või varasemale aastale. IEC avaldamiskirje

Kas ISO 27090 hõlmab generatiivse tehisintellekti ja suurte keelemudelite turvalisust?

Selle avaldatud sisu hõlmab viibasüsti ja tundlikke mudeliväljundeid, mistõttu on see asjakohane generatiivse tehisintellekti turvalisuse jaoks. Selle käsitlusala hõlmab ka muid tehisintellektisüsteeme. Avaldatud ISO/IEC 27090 näidis ISO selgitus ISO 27090 kohta

Kas kolmanda osapoole tehisintellekti kasutav ettevõte saab standardit rakendada?

Jah. Nimetatud sihtrühm hõlmab nii tehisintellekti kasutavaid kui ka arendavaid organisatsioone. Alustage riskidest ja kohustustest, mis on teie kontrolli all, ning tehke kindlaks, mida peate oma tarnijate kohta teadma. IEC avaldamiskirje

Kas ISO 27001 sertifikaat tähendab, et tehisintellektisüsteem on turvaline?

Juhtimissüsteemi sertifikaat ei taga, et üksik rakendus peab vastu igale ründele. Kasutage juhtimissüsteemi riskiotsuste korraldamiseks ja hinnake tehisintellektisüsteemi tegelikku disaini, konfiguratsiooni ja käitumist. ISO 27090 aitab seda turvatööd suunata.

Kust saab ISO 27090 PDF-i?

Avaldatud standardi ja litsentsimisvõimaluste saamiseks kasutage ISO ametlikku kataloogi või IEC Webstore'i. Kontrollige, et tähis oleks ISO/IEC 27090:2026. Artikkel või eelvaade annab vaid osa materjalist.

Muutke tehisintellekti turvatöö ülevaadatavaks

Alustage ühest olulise mõjuga tehisintellekti kasutusjuhust. Tehke kindlaks, kuidas seda saaks kompromiteerida, valige asjakohaste piiride jaoks kaitsemeetmed ja määratlege tõendid, mis näitavad, et need kaitsemeetmed toimivad. Määrake igale tegevusele vastutaja ja ülevaatuse käivitaja.

Secani seob nõuded, riskid, meetmed, tõendid, vastutajad ja ülevaatusotsused ühises turvalisuse ja vastavuse tööruumis. Rääkige Secaniga oma tehisintellekti turvatöö korraldamisest, et meeskonnad näeksid, mida on hinnatud, mis vajab tähelepanu ja kes vastutab.