ISO 27090 explicat pentru echipele de securitate a IA

ISO/IEC 27090:2026 este un standard internațional care oferă îndrumări privind amenințările de securitate și compromiterile care afectează sistemele de inteligență artificială. Publicat pe 14 octombrie 2026, acesta tratează modul în care organizațiile pot înțelege, detecta și atenua aceste amenințări pe parcursul întregului ciclu de viață al IA. Titlul său oficial este Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems. Înregistrarea publicației ISO

Pentru o echipă de securitate, întrebarea practică este simplă: ce ar putea modifica, fura sau determina un atacator să facă un sistem de IA și ce ar limita prejudiciul rezultat?

Acest ghid explică domeniul de aplicare al standardului ISO 27090, principalele amenințări la adresa securității IA, relația sa cu ISO 27001 și ISO 42001, precum și o modalitate practică de a transforma îndrumările în activități de securitate cu responsabili, măsuri de protecție și dovezi. Cercetarea pe care se bazează a fost verificată pe 18 octombrie 2026.

Ce acoperă standardul ISO 27090

ISO 27090 se concentrează pe protejarea sistemelor de IA. Subiectul său depășește IA generativă, modelele lingvistice mari și chatboții, vizând sistemele de IA în sens mai larg. Explicația ISO privind ISO 27090

Standardul publicat conectează practicile consacrate de securitate a informațiilor cu amenințările specifice IA. Conținutul său tratează guvernanța, securitatea lanțului de aprovizionare, modelarea amenințărilor și red teaming-ul, urmate de tipurile de compromitere, inclusiv otrăvirea, evaziunea, expunerea informațiilor și injectarea de prompturi. De asemenea, analizează modul în care măsurile de atenuare interacționează și își păstrează eficacitatea în timp. Extras publicat din ISO/IEC 27090

Domeniul de aplicare include organizații de orice dimensiune care dezvoltă sau utilizează IA, inclusiv companii, organisme guvernamentale și organizații non-profit. Prin urmare, achiziționarea unui serviciu de IA de la terți nu plasează o organizație în afara publicului vizat. Înregistrarea publicației IEC

Un punct de plecare util este o analiză comună care implică securitatea, ingineria, echipa de date, achizițiile și responsabilul de business. Fiecare ar trebui să poată explica partea din sistem pe care o controlează și deciziile pentru care depinde de ceilalți.

De ce sistemele de IA necesită o analiză de securitate suplimentară

O aplicație de IA conectează mai multe elemente care merită o examinare separată: software, date, fișiere sau servicii de model, instrucțiuni, utilizatori și acțiuni ulterioare.

Să luăm un asistent pentru documente conectat la o bază internă de cunoștințe. O analiză convențională poate examina autentificarea, criptarea și vulnerabilitățile software. O analiză de securitate a IA ar trebui să întrebe, de asemenea, ce se întâmplă dacă un document regăsit încearcă să modifice instrucțiunile asistentului, dacă utilizatorii pot accesa materiale în afara permisiunilor lor și ce acțiuni poate declanșa rezultatul generat.

Aceste întrebări devin mai importante atunci când un asistent poate actualiza înregistrări sau poate apela instrumente externe. Un răspuns greșit și o acțiune neautorizată au consecințe diferite și necesită măsuri de protecție diferite.

Pentru prima analiză, cartografiați trei întrebări:

• Ce poate influența sistemul? Includeți datele de antrenare, conținutul regăsit, prompturile, furnizorii și actualizările de model.
• Ce poate ieși din sistem? Includeți răspunsurile, jurnalele, exporturile și activele de model.
• Ce poate modifica sistemul? Includeți fișiere, tichete, conturi, tranzacții și alte servicii conectate.

Aceasta este o metodă practică de delimitare a perimetrului pentru exemplele de mai jos, nu o reproducere a clauzelor standardului.

Amenințări la adresa securității IA pe care trebuie să le înțelegeți

Explicațiile următoare folosesc terminologia NIST privind învățarea automată adversarială și îndrumările OWASP pentru aplicațiile LLM. Scenariile sunt ilustrative. Taxonomia NIST pentru învățarea automată adversarială Îndrumările OWASP privind injectarea de prompturi Îndrumările OWASP privind gestionarea rezultatelor

Păstrați distincțiile clare în timpul unei evaluări a riscurilor. Un document rău intenționat regăsit de o aplicație de generare augmentată prin regăsire (RAG) nu reprezintă automat o otrăvire a datelor de antrenare: regăsirea nu actualizează, în sine, ponderile modelului. În schimb, poate expune aplicația la o injectare indirectă de prompturi.

Pentru securitatea LLM, prompturile mai stricte reprezintă, singure, o strategie de control incompletă. OWASP recomandă măsuri de protecție precum privilegii restrânse și aprobarea acțiunilor sensibile, în timp ce NCSC subliniază gestionarea injectării de prompturi ca risc continuu, prin proiectarea și operarea sistemului. Îndrumările OWASP privind injectarea de prompturi Îndrumările NCSC privind riscul injectării de prompturi

ISO 27090 comparativ cu ISO 27001 și ISO 42001

Aceste standarde susțin părți diferite ale activității de securitate și de guvernanță a IA dintr-o organizație.

Distincțiile urmează descrierile editorilor pentru ISO 27001, ISO 27002 și ISO 42001.

Pentru o echipă care operează deja un SMSI, o abordare practică este extinderea înregistrărilor existente. Adăugați sistemele de IA relevante în inventarul de active, evaluați căile lor de atac, desemnați responsabili pentru tratarea riscurilor și asociați dovezile justificative. Pentru context privind organizarea acestei activități, consultați lista de verificare pentru implementarea ISO 27001.

O listă practică de verificare pentru implementarea ISO 27090

Pașii de mai jos reprezintă o abordare de implementare construită pe baza tematicii standardului și a îndrumărilor publice privind securitatea IA. Ei nu sunt o listă de verificare oficială ISO și nici o enumerare a clauzelor obligatorii.

1. Definiți sistemul și responsabilul acestuia

Alegeți un caz de utilizare a IA cu un scop de business clar. Înregistrați responsabilul asumat, utilizatorii, furnizorul modelului, modul de găzduire și serviciile conectate.

Apoi trasați limita analizei. Includeți aplicația și dependențele sale, nu doar endpoint-ul modelului. Un asistent destinat clienților, cu acces la instrumente, necesită o evaluare diferită de cea a unui instrument intern de rezumare a textelor, fără permisiunea de a acționa.

Rezultat util: o înregistrare a sistemului care precizează scopul, limitele, dependențele, acțiunile permise și responsabilul asumat.

2. Urmăriți proveniența datelor și a modelelor

Înregistrați de unde provin seturile de date și artefactele de model, cine le poate modifica și ce versiuni sunt implementate. Includeți datele de intrare pentru ajustarea fină, colecțiile de regăsire, prompturile și canalele de feedback relevante pentru sistem.

Îndrumările NCSC pentru dezvoltare recomandă urmărirea activelor de IA și a provenienței lor, protejarea acestora și păstrarea informațiilor necesare pentru a recupera versiuni de încredere. Îndrumările NCSC pentru dezvoltarea securizată a IA

Pentru un model achiziționat, întrebați furnizorul ce responsabilități își asumă și ce informații pune la dispoziție atunci când modelele sau serviciile se modifică.

Rezultat util: un inventar versionat, cu surse, reguli de acces, istoricul modificărilor și responsabilitățile furnizorilor.

3. Modelați amenințările pentru fluxul de lucru real

Analizați sistemul din perspectiva unui atacator. Identificați punctele de intrare, activele sensibile, permisiunile și consecințele unei compromiteri reușite. Îndrumările NCSC pentru proiectarea securizată recomandă modelarea amenințărilor și atenția acordată componentelor terțe și principiului privilegiului minim. Îndrumările NCSC pentru proiectarea securizată a IA

Formulați scenarii concrete. „Riscul IA” este prea vag pentru a genera o acțiune utilă. „Un document încărcat de o parte externă convinge asistentul să solicite un fișier de dovezi restricționat” oferă echipei ceva specific de analizat.

Prioritizați în funcție de expunere și de prejudiciul potențial. Înregistrați cine acceptă riscul rămas și când ar trebui revizuită această decizie.

Rezultat util: un registru scurt al riscurilor, care leagă scenariile de atac de active, consecințe, măsuri de protecție și responsabili.

4. Plasați măsurile de protecție la limitele relevante

Selectați controalele pentru scenariul pe care îl abordați. Pentru activele de model, acestea pot implica stocare protejată, restricții de acces și verificări de integritate. Pentru serviciile implementate, luați în considerare autentificarea, separarea dintre medii și controalele care reduc accesul neautorizat sau exfiltrarea. Acestea sunt teme din îndrumările NCSC pentru implementare. Îndrumările NCSC pentru implementarea securizată a IA

Pentru rezultatele generate, validați și codificați conținutul în funcție de destinația sa înainte ca un alt sistem să acționeze pe baza lui. Îndrumările OWASP privind gestionarea rezultatelor explică de ce rezultatul unui model nu ar trebui să dobândească autoritate doar pentru că provine de la model. Îndrumările OWASP privind gestionarea rezultatelor

Rezultat util: o înregistrare a controlului care numește limita pe care o protejează, responsabilul său și dovezile folosite pentru a-l verifica.

5. Testați aplicația completă

Proiectați testele în jurul consecințelor identificate în modelul de amenințări. Pentru un asistent RAG, folosiți documente adversariale și utilizatori cu permisiuni diferite. Pentru un agent, testați ce se întâmplă atunci când conținutul regăsit îi cere să depășească acțiunile permise.

Definiți rezultatul așteptat înainte de a rula testul. Un exemplu: aplicația trebuie să refuze o solicitare pentru un fișier restricționat chiar dacă modelul încearcă să facă acea solicitare.

Înregistrați configurația aplicației, versiunea modelului, datele de intrare ale testului, rezultatul și eventualele remedieri. Alegeți date de test care nu expun în mod inutil informații confidențiale reale.

Rezultat util: teste de securitate repetabile, legate de riscuri și decizii de lansare specifice.

6. Monitorizați modificările și pregătiți un răspuns

Analizați efectul actualizărilor de model, de date și de prompturi. Monitorizați datele de intrare și rezultatele relevante, protejând în același timp informațiile sensibile din jurnale. Îndrumările operaționale NCSC evidențiază monitorizarea comportamentului și implicațiile de securitate ale modificărilor pe toată durata funcționării. Îndrumările NCSC pentru operarea securizată a IA

Stabiliți din timp cine poate dezactiva un instrument, revoca o credențială, izola o integrare sau reveni la o versiune anterioară. Definiți declanșatori de revizuire, precum un furnizor nou, permisiuni extinse, o actualizare semnificativă a modelului sau un incident de securitate.

Rezultat util: responsabilități de monitorizare, criterii de revizuire a modificărilor, o procedură de răspuns la incidente și o cale de recuperare testată.

Transformarea riscurilor de securitate a IA în dovezi

Tabelul de mai jos este un model de lucru sugerat. Exemplele sale de dovezi sunt recomandări practice, nu o listă de documente impuse de ISO 27090.

De exemplu, imaginați-vă o echipă de securitate care folosește un asistent pentru a rezuma dovezile clienților. Un document al unui furnizor conține instrucțiuni de a încărca dovezile la o adresă externă.

Testul echipei ar trebui să urmărească acțiunea încercată prin întreaga aplicație. Are asistentul un instrument care poate încărca fișiere? Aplică acel instrument permisiunile utilizatorului? Sunt destinațiile restricționate? Este necesară aprobarea transferului de către o persoană responsabilă?

O înregistrare utilă a analizei ar identifica scenariul, limita care împiedică transferul, rezultatul testului și persoana care a aprobat riscul rămas. Dacă sistemul se modifică, acea înregistrare îi arată următorului evaluator ce trebuie verificat din nou.

Această abordare oferă unei evaluări mai multă substanță decât afirmația că sistemul folosește „IA responsabilă”. Ea leagă decizia de securitate de ceva ce o altă persoană poate inspecta. Pentru mai multe detalii despre organizarea materialelor justificative, consultați cum să structurați pregătirea pentru audit.

Certificarea și cerințele ISO 27090

ISO 27090 oferă îndrumări de securitate, nu cerințe de certificare pentru un sistem de management. Explicația ISO distinge scopul său de cerințele privind AIMS din ISO 42001. Explicația ISO privind ISO 27090

Definiți mai întâi asigurarea de care aveți nevoie: o analiză de securitate, un răspuns de asigurare pentru clienți, o evaluare internă a decalajelor sau o certificare în raport cu un standard aplicabil pentru sisteme de management.

Cereți oricui oferă o evaluare să precizeze perimetrul, criteriile și schema de asigurare. Astfel, rezultatul este mai ușor de interpretat și se evită confuzia dintre o analiză a practicilor de securitate a IA și certificarea unui sistem de management.

Pentru un proiect de implementare, procurați standardul publicat, analizați îndrumările în raport cu propriile sisteme și înregistrați de ce anumite măsuri de protecție sunt adecvate. Exemplele din acest articol oferă o structură de pornire pentru această activitate.

ISO 27090 și Regulamentul UE privind IA

Aplicarea unui standard internațional nu stabilește automat conformitatea cu Regulamentul UE privind IA. Articolul 40 leagă prezumția de conformitate de standardele armonizate ale căror referințe au fost publicate în Jurnalul Oficial al UE și doar în măsura în care acestea acoperă cerințele sau obligațiile relevante. Articolul 40 din Regulamentul UE privind IA

Folosiți o analiză de securitate conform ISO 27090 ca unul dintre elementele de intrare pentru o evaluare a conformității cu perimetru definit separat. Păstrați o evidență a obligației legale evaluate, a dovezilor care o susțin și a oricărui decalaj rămas.

Întrebări frecvente despre ISO 27090

Care este data de publicare a ISO 27090?

Prima ediție, ISO/IEC 27090:2026, a fost publicată pe 14 octombrie 2026. Verificați înregistrarea actuală a editorului atunci când materiale mai vechi se referă la un proiect sau la un an anterior. Înregistrarea publicației IEC

Acoperă ISO 27090 IA generativă și securitatea LLM?

Conținutul publicat include injectarea de prompturi și rezultatele sensibile ale modelelor, ceea ce îl face relevant pentru securitatea IA generative. Domeniul său de aplicare include și alte sisteme de IA. Extras publicat din ISO/IEC 27090 Explicația ISO privind ISO 27090

Poate aplica standardul o companie care folosește IA de la terți?

Da. Publicul declarat include organizațiile care utilizează IA, precum și organizațiile care o dezvoltă. Începeți cu riscurile și responsabilitățile aflate sub controlul dumneavoastră și identificați ce trebuie să înțelegeți despre furnizorii dumneavoastră. Înregistrarea publicației IEC

Înseamnă certificarea ISO 27001 că un sistem de IA este sigur?

O certificare a sistemului de management nu garantează că o aplicație individuală va rezista oricărui atac. Folosiți sistemul de management pentru a organiza deciziile privind riscurile și evaluați proiectarea, configurația și comportamentul efectiv ale sistemului de IA. ISO 27090 poate contribui la fundamentarea acestei activități de securitate.

De unde pot obține PDF-ul ISO 27090?

Folosiți catalogul oficial ISO sau IEC Webstore pentru standardul publicat și opțiunile de licențiere. Verificați ca denumirea să fie ISO/IEC 27090:2026. Un articol sau o previzualizare oferă doar o parte din material.

Faceți activitatea de securitate a IA verificabilă

Începeți cu un caz de utilizare a IA cu consecințe importante. Identificați cum ar putea fi compromis, alegeți măsuri de protecție pentru limitele relevante și definiți dovezile care vor demonstra că aceste măsuri funcționează. Atribuiți fiecărei acțiuni un responsabil și un declanșator de revizuire.

Secani conectează cerințele, riscurile, controalele, dovezile, responsabilii și deciziile de revizuire într-un spațiu de lucru comun pentru securitate și conformitate. Discutați cu Secani despre organizarea activității de securitate a IA, astfel încât echipele să vadă ce a fost evaluat, ce necesită atenție și cine este responsabil.