ISO 27090 vysvetlená pre tímy bezpečnosti AI

ISO/IEC 27090:2026 je medzinárodná norma, ktorá poskytuje usmernenia k bezpečnostným hrozbám a kompromitáciám postihujúcim systémy umelej inteligencie. Bola zverejnená 14. októbra 2026 a zaoberá sa tým, ako môžu organizácie tieto hrozby pochopiť, odhaliť a zmierniť počas celého životného cyklu AI. Jej formálny názov znie Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems. Záznam o publikácii ISO

Pre bezpečnostný tím je praktická otázka jednoduchá: čo by útočník mohol zmeniť, ukradnúť alebo k čomu by mohol systém AI prinútiť, a čo by obmedzilo výslednú škodu?

Tento návod vysvetľuje rozsah normy ISO 27090, hlavné bezpečnostné hrozby pre AI, jej vzťah k ISO 27001 a ISO 42001 a praktický spôsob, ako usmernenia premeniť na bezpečnostnú prácu s vlastníkmi, ochrannými opatreniami a dôkazmi. Podkladový výskum bol overený 18. októbra 2026.

Čo pokrýva norma ISO 27090

ISO 27090 sa zameriava na ochranu systémov AI. Jej predmet presahuje generatívnu AI, veľké jazykové modely a chatboty a týka sa systémov AI v širšom zmysle. Vysvetlenie ISO 27090 od ISO

Zverejnená norma prepája zavedené postupy informačnej bezpečnosti s hrozbami špecifickými pre AI. Jej obsah sa zaoberá riadením, bezpečnosťou dodávateľského reťazca, modelovaním hrozieb a red teamingom a následne typmi kompromitácií vrátane otravy, únikových útokov, vyzradenia informácií a prompt injection. Zohľadňuje aj to, ako sa zmierňujúce opatrenia navzájom ovplyvňujú a ako si v čase zachovávajú účinnosť. Zverejnená ukážka ISO/IEC 27090

Rozsah zahŕňa organizácie akejkoľvek veľkosti, ktoré AI vyvíjajú alebo používajú, vrátane podnikov, orgánov verejnej správy a neziskových organizácií. Nákup služby AI od tretej strany preto organizáciu z cieľovej skupiny nevyraďuje. Záznam o publikácii IEC

Užitočným východiskovým bodom je spoločné preskúmanie, do ktorého sa zapojí bezpečnosť, vývoj, dátový tím, nákup a vlastník na strane biznisu. Každý z nich by mal vedieť vysvetliť časť systému, ktorú riadi, a rozhodnutia, pri ktorých závisí od ostatných.

Prečo systémy AI potrebujú dodatočnú bezpečnostnú analýzu

Aplikácia AI prepája viacero prvkov, ktoré si zaslúžia samostatné posúdenie: softvér, dáta, súbory alebo služby modelov, inštrukcie, používateľov a nadväzujúce akcie.

Predstavte si asistenta pre prácu s dokumentmi napojeného na internú znalostnú bázu. Konvenčné preskúmanie môže preveriť autentifikáciu, šifrovanie a zraniteľnosti softvéru. Preskúmanie bezpečnosti AI by sa malo pýtať aj na to, čo sa stane, ak sa načítaný dokument pokúsi zmeniť inštrukcie asistenta, či používatelia môžu získať materiály mimo svojich oprávnení a ktoré akcie môže vygenerovaný výstup spustiť.

Tieto otázky naberajú na význame, keď asistent môže aktualizovať záznamy alebo volať externé nástroje. Chybná odpoveď a neoprávnená akcia majú rozdielne dôsledky a vyžadujú rozdielne ochranné opatrenia.

Pri prvom preskúmaní zmapujte tri otázky:

• Čo môže systém ovplyvniť? Zahrňte trénovacie dáta, načítaný obsah, prompty, dodávateľov a aktualizácie modelov.
• Čo môže opustiť systém? Zahrňte odpovede, logy, exporty a aktíva modelov.
• Čo môže systém zmeniť? Zahrňte súbory, tikety, účty, transakcie a ďalšie pripojené služby.

Ide o praktickú metódu vymedzenia rozsahu pre nižšie uvedené príklady, nie o reprodukciu článkov normy.

Bezpečnostné hrozby pre AI, ktorým treba rozumieť

Nasledujúce vysvetlenia vychádzajú z terminológie NIST pre adversariálne strojové učenie a z usmernení OWASP pre aplikácie LLM. Scenáre sú ilustratívne. Taxonómia adversariálneho strojového učenia od NIST Usmernenia OWASP k prompt injection Usmernenia OWASP k spracovaniu výstupov

Pri posudzovaní rizík tieto rozlíšenia držte jasne oddelené. Škodlivý dokument načítaný aplikáciou využívajúcou generovanie rozšírené o vyhľadávanie (RAG) nie je automaticky otravou trénovacích dát: samotné vyhľadávanie váhy modelu neaktualizuje. Môže však aplikáciu vystaviť nepriamej prompt injection.

Pri bezpečnosti LLM sú samotné silnejšie prompty neúplnou stratégiou kontrol. OWASP odporúča ochranné opatrenia, ako sú obmedzené oprávnenia a schvaľovanie citlivých akcií, zatiaľ čo NCSC zdôrazňuje riadenie prompt injection ako trvalého rizika prostredníctvom návrhu a prevádzky systému. Usmernenia OWASP k prompt injection Usmernenia NCSC k riziku prompt injection

ISO 27090 vs. ISO 27001 a ISO 42001

Tieto normy podporujú rôzne časti práce organizácie v oblasti bezpečnosti a riadenia AI.

Tieto rozlíšenia vychádzajú z opisov vydavateľov pre ISO 27001, ISO 27002 a ISO 42001.

Pre tím, ktorý už prevádzkuje ISMS, je praktickým prístupom rozšíriť existujúce záznamy. Doplňte relevantné systémy AI do inventára aktív, posúďte ich cesty útoku, určte vlastníkov ošetrenia rizík a pripojte podporné dôkazy. Podrobnosti k organizácii tejto práce nájdete v kontrolnom zozname na implementáciu ISO 27001.

Praktický kontrolný zoznam na implementáciu ISO 27090

Nižšie uvedené kroky predstavujú implementačný prístup vychádzajúci z predmetu normy a z verejných usmernení k bezpečnej AI. Nejde o oficiálny kontrolný zoznam ISO ani o výpočet povinných článkov.

1. Definujte systém a jeho vlastníka

Vyberte prípad použitia AI s jasným obchodným účelom. Zaznamenajte zodpovedného vlastníka, používateľov, poskytovateľa modelu, spôsob hostingu a pripojené služby.

Potom vymedzte hranice preskúmania. Zahrňte aplikáciu a jej závislosti, nielen endpoint modelu. Asistent pre zákazníkov s prístupom k nástrojom vyžaduje iné posúdenie ako interný nástroj na sumarizáciu textu bez oprávnenia čokoľvek vykonávať.

Užitočný výstup: záznam o systéme, ktorý uvádza jeho účel, hranice, závislosti, povolené akcie a zodpovedného vlastníka.

2. Sledujte pôvod dát a modelov

Zaznamenajte, odkiaľ pochádzajú dátové sady a artefakty modelov, kto ich môže meniť a ktoré verzie sú nasadené. Zahrňte vstupy na doladenie, kolekcie na vyhľadávanie, prompty a kanály spätnej väzby, ktoré sú pre systém relevantné.

Usmernenia NCSC pre vývoj odporúčajú sledovať aktíva AI a ich pôvod, chrániť ich a uchovávať informácie potrebné na obnovenie dôveryhodných verzií. Usmernenia NCSC k bezpečnému vývoju AI

Pri zakúpenom modeli sa poskytovateľa opýtajte, ktoré zodpovednosti preberá a aké informácie sprístupňuje pri zmenách modelov alebo služieb.

Užitočný výstup: verzovaný inventár so zdrojmi, pravidlami prístupu, históriou zmien a zodpovednosťami dodávateľov.

3. Modelujte hrozby skutočného pracovného postupu

Preskúmajte systém z pohľadu útočníka. Identifikujte vstupné body, citlivé aktíva, oprávnenia a dôsledky úspešnej kompromitácie. Usmernenia NCSC pre bezpečný návrh odporúčajú modelovanie hrozieb a pozornosť venovanú komponentom tretích strán a princípu najnižších oprávnení. Usmernenia NCSC k bezpečnému návrhu AI

Píšte konkrétne scenáre. „Riziko AI“ je príliš všeobecné na to, aby viedlo k užitočnej akcii. „Dokument nahraný externou stranou presvedčí asistenta, aby si vyžiadal súbor s dôkazmi s obmedzeným prístupom“ dáva tímu niečo konkrétne na analýzu.

Stanovte priority podľa expozície a potenciálnej škody. Zaznamenajte, kto akceptuje zvyškové riziko a kedy by sa toto rozhodnutie malo znovu preskúmať.

Užitočný výstup: stručný register rizík, ktorý prepája scenáre útokov s aktívami, dôsledkami, ochrannými opatreniami a vlastníkmi.

4. Umiestnite ochranné opatrenia na relevantné hranice

Vyberte opatrenia pre scenár, ktorým sa zaoberáte. Pri aktívach modelov to môže zahŕňať chránené úložisko, obmedzenia prístupu a kontroly integrity. Pri nasadených službách zvážte autentifikáciu, oddelenie prostredí a opatrenia, ktoré znižujú neoprávnený prístup alebo exfiltráciu. Tieto témy obsahujú usmernenia NCSC pre nasadenie. Usmernenia NCSC k bezpečnému nasadeniu AI

Pri vygenerovaných výstupoch validujte a kódujte obsah pre jeho cieľové miesto skôr, ako na jeho základe začne konať iný systém. Usmernenia OWASP k spracovaniu výstupov vysvetľujú, prečo by výstup modelu nemal získavať autoritu len preto, že pochádza z modelu. Usmernenia OWASP k spracovaniu výstupov

Užitočný výstup: záznam o opatrení, ktorý uvádza hranicu, ktorú chráni, jeho vlastníka a dôkazy používané na jeho overenie.

5. Otestujte celú aplikáciu

Navrhnite testy podľa dôsledkov identifikovaných pri modelovaní hrozieb. Pri asistentovi RAG použite adversariálne dokumenty a používateľov s rôznymi oprávneniami. Pri agentovi otestujte, čo sa stane, keď ho načítaný obsah požiada o prekročenie povolených akcií.

Pred spustením testu definujte očakávaný výsledok. Príklad: aplikácia musí zamietnuť požiadavku na súbor s obmedzeným prístupom, aj keď sa model pokúsi takúto požiadavku vzniesť.

Zaznamenajte konfiguráciu aplikácie, verziu modelu, testovacie vstupy, výsledok a prípadnú nápravu. Zvoľte testovacie dáta, ktoré zbytočne nevyzrádzajú skutočné dôverné informácie.

Užitočný výstup: opakovateľné bezpečnostné testy naviazané na konkrétne riziká a rozhodnutia o uvoľnení.

6. Monitorujte zmeny a pripravte reakciu

Preskúmavajte vplyv aktualizácií modelov, dát a promptov. Monitorujte relevantné vstupy a výstupy a zároveň chráňte citlivé informácie v logoch. Prevádzkové usmernenia NCSC zdôrazňujú monitorovanie správania a bezpečnostné dôsledky zmien počas celej prevádzky. Usmernenia NCSC k bezpečnej prevádzke AI

Vopred rozhodnite, kto môže vypnúť nástroj, zrušiť prihlasovacie údaje, izolovať integráciu alebo vrátiť uvoľnenie späť. Stanovte spúšťače preskúmania, ako je nový poskytovateľ, rozšírené oprávnenia, podstatná aktualizácia modelu alebo bezpečnostný incident.

Užitočný výstup: zodpovednosti za monitorovanie, kritériá na preskúmanie zmien, postup reakcie na incidenty a otestovaná cesta obnovy.

Ako premeniť bezpečnostné riziká AI na dôkazy

Nižšie uvedená tabuľka je navrhovanou pracovnou šablónou. Uvedené príklady dôkazov sú praktické odporúčania, nie zoznam dokumentov vyžadovaných normou ISO 27090.

Predstavte si napríklad bezpečnostný tím, ktorý používa asistenta na zhrnutie dôkazov od zákazníkov. Dokument od dodávateľa obsahuje inštrukcie, aby asistent nahral dôkazy na externú adresu.

Test tímu by mal sledovať pokus o túto akciu naprieč aplikáciou. Má asistent nástroj, ktorý môže nahrávať súbory? Vynucuje tento nástroj oprávnenia používateľa? Sú ciele obmedzené? Musí prenos schváliť zodpovedná osoba?

Užitočný záznam o preskúmaní by identifikoval scenár, hranicu, ktorá prenosu bráni, výsledok testu a osobu, ktorá schválila zvyškové riziko. Ak sa systém zmení, tento záznam ďalšiemu posudzovateľovi povie, čo treba znovu overiť.

Tento prístup dáva posúdeniu viac obsahu ako tvrdenie, že systém používa „zodpovednú AI“. Prepája bezpečnostné rozhodnutie s niečím, čo môže preveriť aj iná osoba. Viac o organizácii podporných materiálov nájdete v článku ako štruktúrovať pripravenosť na audit.

Certifikácia a požiadavky ISO 27090

ISO 27090 poskytuje bezpečnostné usmernenia, nie požiadavky na certifikáciu systému manažérstva. Vysvetlenie od ISO odlišuje jej účel od požiadaviek na AIMS v ISO 42001. Vysvetlenie ISO 27090 od ISO

Najprv určte, akú mieru uistenia potrebujete: bezpečnostné preskúmanie, odpoveď pre zákazníka v oblasti uistenia, internú analýzu medzier alebo certifikáciu podľa príslušnej normy systému manažérstva.

Požiadajte každého, kto ponúka posúdenie, aby uviedol jeho rozsah, kritériá a schému uistenia. Výsledok sa tak ľahšie interpretuje a nedôjde k zámene preskúmania postupov bezpečnosti AI s certifikáciou systému manažérstva.

V implementačnom projekte si zaobstarajte zverejnenú normu, preskúmajte usmernenia vo vzťahu k svojim vlastným systémom a zaznamenajte, prečo sú konkrétne ochranné opatrenia vhodné. Príklady v tomto článku poskytujú východiskovú štruktúru pre túto prácu.

ISO 27090 a akt EÚ o umelej inteligencii

Uplatnenie medzinárodnej normy automaticky nezakladá súlad s aktom EÚ o umelej inteligencii (AI Act). Článok 40 spája predpoklad zhody s harmonizovanými normami, na ktoré boli uverejnené odkazy v Úradnom vestníku EÚ, a to len v rozsahu, v akom pokrývajú príslušné požiadavky alebo povinnosti. Článok 40 aktu EÚ o umelej inteligencii

Bezpečnostné preskúmanie podľa ISO 27090 použite ako jeden zo vstupov pre samostatne vymedzené posúdenie súladu. Veďte záznam o posudzovanej právnej povinnosti, o dôkazoch, ktoré ju podporujú, a o prípadnej zostávajúcej medzere.

Často kladené otázky o ISO 27090

Kedy bola ISO 27090 vydaná?

Prvé vydanie, ISO/IEC 27090:2026, bolo zverejnené 14. októbra 2026. Ak staršie materiály odkazujú na návrh alebo na skorší rok, overte si aktuálny záznam vydavateľa. Záznam o publikácii IEC

Pokrýva ISO 27090 generatívnu AI a bezpečnosť LLM?

Jej zverejnený obsah zahŕňa prompt injection a citlivé výstupy modelov, vďaka čomu je relevantná pre bezpečnosť generatívnej AI. Jej rozsah zahŕňa aj ďalšie systémy AI. Zverejnená ukážka ISO/IEC 27090 Vysvetlenie ISO 27090 od ISO

Môže normu uplatniť spoločnosť, ktorá používa AI tretích strán?

Áno. Uvedená cieľová skupina zahŕňa organizácie, ktoré AI používajú, aj organizácie, ktoré ju vyvíjajú. Začnite rizikami a zodpovednosťami, ktoré máte pod kontrolou, a určte, čo potrebujete vedieť o svojich dodávateľoch. Záznam o publikácii IEC

Znamená certifikácia ISO 27001, že systém AI je bezpečný?

Certifikácia systému manažérstva nezaručuje, že jednotlivá aplikácia odolá každému útoku. Systém manažérstva používajte na organizáciu rozhodnutí o rizikách a posudzujte skutočný návrh, konfiguráciu a správanie systému AI. ISO 27090 môže túto bezpečnostnú prácu podporiť.

Kde získam ISO 27090 vo formáte PDF?

Zverejnenú normu a možnosti licencovania nájdete v oficiálnom katalógu ISO alebo v IEC Webstore. Overte, že označenie znie ISO/IEC 27090:2026. Článok alebo náhľad poskytuje len časť materiálu.

Urobte prácu na bezpečnosti AI preskúmateľnou

Začnite jedným prípadom použitia AI s významnými dôsledkami. Určte, ako by mohol byť kompromitovaný, zvoľte ochranné opatrenia pre relevantné hranice a definujte dôkazy, ktoré preukážu, že tieto opatrenia fungujú. Každej akcii prideľte vlastníka a spúšťač preskúmania.

Secani prepája požiadavky, riziká, opatrenia, dôkazy, vlastníkov a rozhodnutia z preskúmaní v zdieľanom pracovnom priestore pre bezpečnosť a compliance. Porozprávajte sa so Secani o tom, ako usporiadať vašu prácu na bezpečnosti AI, aby tímy videli, čo bolo posúdené, čo si vyžaduje pozornosť a kto za čo zodpovedá.