ISO 27090 objašnjen za timove za sigurnost umjetne inteligencije

ISO/IEC 27090:2026 međunarodna je norma koja daje smjernice o sigurnosnim prijetnjama i kompromitacijama koje pogađaju sustave umjetne inteligencije. Objavljena 14. listopada 2026., bavi se time kako organizacije mogu razumjeti, otkriti i ublažiti te prijetnje tijekom cijelog životnog ciklusa umjetne inteligencije. Njezin službeni naslov glasi Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems. Zapis o objavi u ISO-u

Za sigurnosni tim praktično je pitanje jednostavno: što bi napadač mogao promijeniti, ukrasti ili natjerati AI sustav da učini i što bi ograničilo nastalu štetu?

Ovaj vodič objašnjava opseg norme ISO 27090, glavne sigurnosne prijetnje za umjetnu inteligenciju, njezin odnos prema ISO 27001 i ISO 42001 te praktičan način da se smjernice pretvore u sigurnosni rad koji ima vlasnike, zaštitne mjere i dokaze. Istraživanje na kojem se temelji provjereno je 18. listopada 2026.

Što obuhvaća norma ISO 27090

ISO 27090 usmjeren je na zaštitu AI sustava. Njegov predmet nadilazi generativnu umjetnu inteligenciju, velike jezične modele i chatbotove te obuhvaća AI sustave u širem smislu. Objašnjenje ISO-a o normi ISO 27090

Objavljena norma povezuje ustaljene prakse informacijske sigurnosti s prijetnjama specifičnima za umjetnu inteligenciju. Njezin sadržaj obuhvaća upravljanje, sigurnost lanca opskrbe, modeliranje prijetnji i red teaming, a zatim vrste kompromitacija, uključujući trovanje, izbjegavanje, otkrivanje informacija i ubacivanje uputa (prompt injection). Razmatra i kako mjere ublažavanja međusobno djeluju i kako s vremenom ostaju učinkovite. Objavljeni ogledni primjerak ISO/IEC 27090

Opseg uključuje organizacije bilo koje veličine koje razvijaju ili koriste umjetnu inteligenciju, uključujući poduzeća, tijela javne vlasti i neprofitne organizacije. Kupnja AI usluge treće strane stoga organizaciju ne stavlja izvan predviđene publike. Zapis o objavi u IEC-u

Korisna polazna točka zajednički je pregled u kojem sudjeluju sigurnost, inženjering, podaci, nabava i poslovni vlasnik. Svatko od njih trebao bi moći objasniti dio sustava koji kontrolira i odluke za koje ovisi o drugima.

Zašto AI sustavi trebaju dodatnu sigurnosnu analizu

AI aplikacija povezuje nekoliko elemenata koji zaslužuju zasebnu provjeru: softver, podatke, datoteke ili usluge modela, upute, korisnike i daljnje radnje.

Uzmimo asistenta za dokumente povezanog s internom bazom znanja. Uobičajeni pregled može ispitati autentifikaciju, šifriranje i ranjivosti softvera. Sigurnosni pregled umjetne inteligencije trebao bi pitati i što se događa ako dohvaćeni dokument pokuša promijeniti asistentove upute, mogu li korisnici dohvatiti materijale izvan svojih ovlasti i koje radnje može pokrenuti generirani izlaz.

Ta pitanja postaju važnija kada asistent može ažurirati zapise ili pozivati vanjske alate. Pogrešan odgovor i neovlaštena radnja imaju različite posljedice i zahtijevaju različite zaštitne mjere.

Za prvi pregled odgovorite na tri pitanja:

• Što može utjecati na sustav? Uključite podatke za treniranje, dohvaćeni sadržaj, upute, dobavljače i ažuriranja modela.
• Što može napustiti sustav? Uključite odgovore, zapisnike, izvoze i resurse modela.
• Što sustav može promijeniti? Uključite datoteke, zahtjeve, račune, transakcije i druge povezane usluge.

Ovo je praktična metoda za određivanje opsega za primjere u nastavku, a ne prikaz točaka norme.

Sigurnosne prijetnje za umjetnu inteligenciju koje treba razumjeti

Sljedeća objašnjenja koriste NIST-ovu terminologiju adversarijalnog strojnog učenja i smjernice OWASP-a za LLM aplikacije. Scenariji su ilustrativni. NIST-ova taksonomija adversarijalnog strojnog učenja Smjernice OWASP-a o ubacivanju uputa Smjernice OWASP-a o obradi izlaza

Tijekom procjene rizika jasno razlikujte te pojmove. Zlonamjerni dokument koji dohvati aplikacija za generiranje potpomognuto dohvaćanjem (RAG) nije automatski trovanje podataka za treniranje: dohvaćanje samo po sebi ne ažurira težine modela. Umjesto toga, aplikaciju može izložiti neizravnom ubacivanju uputa.

Za sigurnost LLM-ova same jače upute nepotpuna su strategija kontrole. OWASP preporučuje zaštitne mjere poput ograničenih ovlasti i odobrenja za osjetljive radnje, dok NCSC naglašava upravljanje ubacivanjem uputa kao trajnim rizikom kroz dizajn i rad sustava. Smjernice OWASP-a o ubacivanju uputa Smjernice NCSC-a o riziku ubacivanja uputa

ISO 27090 u usporedbi s ISO 27001 i ISO 42001

Ove norme podupiru različite dijelove rada organizacije na sigurnosti i upravljanju umjetnom inteligencijom.

Razlike slijede opise izdavača za ISO 27001, ISO 27002 i ISO 42001.

Za tim koji već vodi ISMS praktičan je pristop proširiti postojeće zapise. Dodajte relevantne AI sustave u popis imovine, procijenite njihove putove napada, dodijelite vlasnike postupanja i povežite popratne dokaze. Za pozadinu o organiziranju tog rada pogledajte kontrolni popis za implementaciju ISO 27001.

Praktični kontrolni popis za implementaciju ISO 27090

Koraci u nastavku pristup su implementaciji izgrađen na temelju sadržaja norme i javnih smjernica za sigurnu umjetnu inteligenciju. Nisu službeni ISO kontrolni popis niti izjava o obveznim točkama.

1. Definirajte sustav i njegova vlasnika

Odaberite slučaj upotrebe umjetne inteligencije s jasnom poslovnom svrhom. Zabilježite odgovornog vlasnika, korisnike, pružatelja modela, način hostinga i povezane usluge.

Zatim povucite granicu pregleda. Uključite aplikaciju i njezine ovisnosti, a ne samo krajnju točku modela. Asistent za korisnike s pristupom alatima zahtijeva drukčiju procjenu od internog alata za sažimanje teksta bez ovlasti za izvršavanje radnji.

Koristan rezultat: zapis o sustavu koji navodi njegovu svrhu, granice, ovisnosti, dopuštene radnje i odgovornog vlasnika.

2. Pratite podrijetlo podataka i modela

Zabilježite odakle potječu skupovi podataka i artefakti modela, tko ih može mijenjati i koje su verzije uvedene. Uključite ulaze za dodatno treniranje, zbirke za dohvaćanje, upute i kanale povratnih informacija relevantne za sustav.

Smjernice NCSC-a za razvoj preporučuju praćenje AI resursa i njihova podrijetla, njihovu zaštitu i čuvanje informacija potrebnih za vraćanje pouzdanih verzija. Smjernice NCSC-a za siguran razvoj umjetne inteligencije

Za kupljeni model pitajte pružatelja koje odgovornosti preuzima i koje informacije stavlja na raspolaganje kada se modeli ili usluge promijene.

Koristan rezultat: popis s verzijama, izvorima, pravilima pristupa, poviješću promjena i odgovornostima dobavljača.

3. Modelirajte prijetnje za stvarni tijek rada

Pregledajte sustav iz perspektive napadača. Utvrdite ulazne točke, osjetljivu imovinu, ovlasti i posljedice uspješne kompromitacije. Smjernice NCSC-a za siguran dizajn preporučuju modeliranje prijetnji te pozornost na komponente trećih strana i načelo najmanjih ovlasti. Smjernice NCSC-a za siguran dizajn umjetne inteligencije

Napišite konkretne scenarije. „Rizik umjetne inteligencije“ preširok je da bi potaknuo korisnu radnju. „Dokument koji je učitala vanjska strana uvjerava asistenta da zatraži ograničenu datoteku s dokazima“ daje timu nešto konkretno za analizu.

Odredite prioritete prema izloženosti i mogućoj šteti. Zabilježite tko prihvaća preostali rizik i kada tu odluku treba ponovno razmotriti.

Koristan rezultat: kratki registar rizika koji povezuje scenarije napada s imovinom, posljedicama, zaštitnim mjerama i vlasnicima.

4. Postavite zaštitne mjere na relevantne granice

Odaberite kontrole za scenarij kojim se bavite. Za resurse modela to može uključivati zaštićenu pohranu, ograničenja pristupa i provjere cjelovitosti. Za uvedene usluge razmotrite autentifikaciju, razdvajanje okruženja i kontrole koje smanjuju neovlašteni pristup ili izvlačenje podataka. To su teme smjernica NCSC-a za uvođenje. Smjernice NCSC-a za sigurno uvođenje umjetne inteligencije

Za generirani izlaz provjerite i kodirajte sadržaj za njegovo odredište prije nego što drugi sustav postupi na temelju njega. Smjernice OWASP-a o obradi izlaza objašnjavaju zašto izlaz modela ne bi smio steći autoritet samo zato što potječe od modela. Smjernice OWASP-a o obradi izlaza

Koristan rezultat: zapis o kontroli koji navodi granicu koju štiti, njezina vlasnika i dokaze kojima se provjerava.

5. Testirajte cijelu aplikaciju

Osmislite testove oko posljedica utvrđenih u modelu prijetnji. Za RAG asistenta koristite adversarijalne dokumente i korisnike s različitim ovlastima. Za agenta testirajte što se događa kada ga dohvaćeni sadržaj zatraži da prekorači dopuštene radnje.

Definirajte očekivani rezultat prije izvođenja testa. Primjer: aplikacija mora odbiti zahtjev za ograničenom datotekom čak i ako model pokuša uputiti taj zahtjev.

Zabilježite konfiguraciju aplikacije, verziju modela, testne ulaze, rezultat i eventualne korektivne mjere. Odaberite testne podatke koji nepotrebno ne otkrivaju stvarne povjerljive informacije.

Koristan rezultat: ponovljivi sigurnosni testovi povezani s konkretnim rizicima i odlukama o puštanju u rad.

6. Pratite promjene i pripremite odgovor

Pregledajte učinak ažuriranja modela, podataka i uputa. Pratite relevantne ulaze i izlaze, a pritom štitite osjetljive informacije u zapisnicima. Smjernice NCSC-a za rad ističu praćenje ponašanja i sigurnosne posljedice promjena tijekom cijelog rada. Smjernice NCSC-a za siguran rad umjetne inteligencije

Unaprijed odlučite tko može onemogućiti alat, opozvati vjerodajnicu, izolirati integraciju ili vratiti prethodno izdanje. Postavite okidače za pregled kao što su novi pružatelj, proširene ovlasti, značajno ažuriranje modela ili sigurnosni incident.

Koristan rezultat: odgovornosti za praćenje, kriteriji za pregled promjena, postupak odgovora na incidente i testirani put oporavka.

Kako sigurnosne rizike umjetne inteligencije pretvoriti u dokaze

Tablica u nastavku predloženi je radni predložak. Njezini primjeri dokaza praktične su preporuke, a ne popis dokumenata koje propisuje ISO 27090.

Zamislite, primjerice, sigurnosni tim koji koristi asistenta za sažimanje dokaza korisnika. Dokument dobavljača sadrži upute da se dokazi učitaju na vanjsku adresu.

Test tima trebao bi pratiti pokušanu radnju kroz aplikaciju. Ima li asistent alat koji može učitavati datoteke? Provodi li taj alat korisnikove ovlasti? Jesu li odredišta ograničena? Mora li prijenos odobriti odgovorna osoba?

Koristan zapis o pregledu naveo bi scenarij, granicu koja sprječava prijenos, rezultat testa i osobu koja je odobrila preostali rizik. Ako se sustav promijeni, taj zapis sljedećem recenzentu govori što treba ponovno provjeriti.

Ovaj pristup procjeni daje više sadržaja od tvrdnje da sustav koristi „odgovornu umjetnu inteligenciju“. Povezuje sigurnosnu odluku s nečim što druga osoba može provjeriti. Više o organiziranju popratnih materijala pročitajte u članku kako strukturirati spremnost za audit.

Certifikacija i zahtjevi norme ISO 27090

ISO 27090 daje sigurnosne smjernice, a ne zahtjeve za certifikaciju sustava upravljanja. Objašnjenje ISO-a razlikuje njegovu svrhu od zahtjeva za AIMS u normi ISO 42001. Objašnjenje ISO-a o normi ISO 27090

Najprije definirajte kakvo vam je jamstvo potrebno: sigurnosni pregled, odgovor korisniku radi jamstva, internu analizu nedostataka ili certifikaciju prema primjenjivoj normi za sustav upravljanja.

Od svakoga tko nudi procjenu zatražite da navede njezin opseg, kriterije i shemu jamstva. Time je rezultat lakše protumačiti i izbjegava se brkanje pregleda sigurnosnih praksi umjetne inteligencije s certifikacijom sustava upravljanja.

Za projekt implementacije nabavite objavljenu normu, pregledajte smjernice u odnosu na vlastite sustave i zabilježite zašto su određene zaštitne mjere prikladne. Primjeri u ovom članku daju početnu strukturu za taj rad.

ISO 27090 i Akt EU-a o umjetnoj inteligenciji

Primjena međunarodne norme ne utvrđuje automatski sukladnost s Aktom EU-a o umjetnoj inteligenciji. Članak 40. povezuje pretpostavku sukladnosti s usklađenim normama čija su upućivanja objavljena u Službenom listu EU-a, i to samo u mjeri u kojoj obuhvaćaju relevantne zahtjeve ili obveze. Članak 40. Akta EU-a o umjetnoj inteligenciji

Sigurnosni pregled prema ISO 27090 koristite kao jedan od ulaza u zasebno definiranu procjenu sukladnosti. Zabilježite pravnu obvezu koja se procjenjuje, dokaze koji je podupiru i eventualni preostali nedostatak.

Često postavljana pitanja o ISO 27090

Kada je objavljen ISO 27090?

Prvo izdanje, ISO/IEC 27090:2026, objavljeno je 14. listopada 2026. Kada se stariji materijali pozivaju na nacrt ili raniju godinu, provjerite aktualni zapis izdavača. Zapis o objavi u IEC-u

Obuhvaća li ISO 27090 generativnu umjetnu inteligenciju i sigurnost LLM-ova?

Njegov objavljeni sadržaj uključuje ubacivanje uputa i osjetljive izlaze modela, zbog čega je relevantan za sigurnost generativne umjetne inteligencije. Njegov opseg obuhvaća i druge AI sustave. Objavljeni ogledni primjerak ISO/IEC 27090 Objašnjenje ISO-a o normi ISO 27090

Može li normu primijeniti poduzeće koje koristi umjetnu inteligenciju trećih strana?

Da. Navedena publika uključuje organizacije koje koriste umjetnu inteligenciju, kao i organizacije koje je razvijaju. Počnite s rizicima i odgovornostima pod vašom kontrolom i utvrdite što trebate znati o svojim dobavljačima. Zapis o objavi u IEC-u

Znači li certifikat ISO 27001 da je AI sustav siguran?

Certifikat sustava upravljanja nije jamstvo da će pojedina aplikacija odoljeti svakom napadu. Koristite sustav upravljanja za organiziranje odluka o rizicima, a procijenite stvarni dizajn, konfiguraciju i ponašanje AI sustava. ISO 27090 može pomoći u tom sigurnosnom radu.

Gdje mogu nabaviti ISO 27090 u PDF-u?

Za objavljenu normu i mogućnosti licenciranja koristite službeni katalog ISO-a ili IEC Webstore. Provjerite je li oznaka ISO/IEC 27090:2026. Članak ili pregled sadrži samo dio materijala.

Neka sigurnosni rad na umjetnoj inteligenciji bude provjerljiv

Počnite s jednim slučajem upotrebe umjetne inteligencije sa značajnim posljedicama. Utvrdite kako bi mogao biti kompromitiran, odaberite zaštitne mjere za relevantne granice i definirajte dokaze koji će pokazati da te mjere djeluju. Svakoj radnji dodijelite vlasnika i okidač za pregled.

Secani povezuje zahtjeve, rizike, kontrole, dokaze, vlasnike i odluke o pregledima u zajedničkom radnom prostoru za sigurnost i sukladnost. Razgovarajte sa Secanijem o organiziranju sigurnosnog rada na umjetnoj inteligenciji kako bi timovi vidjeli što je procijenjeno, što zahtijeva pozornost i tko je odgovoran.