ISO 27090, обяснен за екипите по сигурност на AI

ISO/IEC 27090:2026 е международен стандарт, който дава насоки относно заплахите за сигурността и компрометиранията, засягащи системите с изкуствен интелект. Публикуван на 14 октомври 2026 г., той разглежда как организациите могат да разбират, откриват и смекчават тези заплахи през целия жизнен цикъл на AI. Официалното му заглавие е Cybersecurity — Artificial intelligence (AI) — Addressing security threats and compromises to AI systems. Запис за публикацията в ISO

За екипа по сигурност практическият въпрос е ясен: какво би могъл нападател да промени, открадне или да накара една AI система да направи и какво би ограничило произтичащата вреда?

Това ръководство обяснява обхвата на стандарта ISO 27090, основните заплахи за сигурността на AI, връзката му с ISO 27001 и ISO 42001, както и практически начин насоките да се превърнат в работа по сигурността, която има собственици, предпазни мерки и доказателства. Проучването, на което се основава, е проверено на 18 октомври 2026 г.

Какво обхваща стандартът ISO 27090

ISO 27090 е насочен към защитата на AI системите. Предметът му надхвърля генеративния AI, големите езикови модели и чатботовете и обхваща AI системите в по-широк смисъл. Обяснение на ISO за ISO 27090

Публикуваният стандарт свързва утвърдените практики за информационна сигурност със заплахите, специфични за AI. Съдържанието му обхваща управлението, сигурността на веригата на доставки, моделирането на заплахи и red teaming, а след това видовете компрометиране, включително отравяне, избягване, разкриване на информация и инжектиране на промптове. Разглежда също как мерките за смекчаване си взаимодействат и как остават ефективни с течение на времето. Публикуван образец на ISO/IEC 27090

Обхватът включва организации от всякакъв размер, които разработват или използват AI, включително предприятия, държавни органи и организации с нестопанска цел. Следователно закупуването на AI услуга от трета страна не поставя организацията извън предвидената аудитория. Запис за публикацията в IEC

Полезна отправна точка е съвместен преглед, в който участват сигурността, инженерството, данните, снабдяването и бизнес собственикът. Всеки от тях трябва да може да обясни частта от системата, която контролира, и решенията, за които зависи от другите.

Защо AI системите се нуждаят от допълнителен анализ на сигурността

Едно AI приложение свързва няколко елемента, които заслужават отделна проверка: софтуер, данни, файлове или услуги на модели, инструкции, потребители и последващи действия.

Да вземем асистент за документи, свързан с вътрешна база знания. Обичайният преглед може да разгледа удостоверяването, криптирането и уязвимостите в софтуера. Прегледът на сигурността на AI трябва да попита също какво се случва, ако извлечен документ се опита да промени инструкциите на асистента, дали потребителите могат да извличат материали извън своите права и какви действия може да задейства генерираният изход.

Тези въпроси стават по-важни, когато асистентът може да актуализира записи или да извиква външни инструменти. Грешният отговор и неразрешеното действие имат различни последици и изискват различни предпазни мерки.

За първия си преглед отговорете на три въпроса:

• Какво може да повлияе на системата? Включете данните за обучение, извлеченото съдържание, промптовете, доставчиците и актуализациите на моделите.
• Какво може да напусне системата? Включете отговорите, журналите, експортите и активите на моделите.
• Какво може да промени системата? Включете файлове, заявки, акаунти, транзакции и други свързани услуги.

Това е практически метод за определяне на обхвата за примерите по-долу, а не възпроизвеждане на клаузите на стандарта.

Заплахи за сигурността на AI, които трябва да разбирате

Следващите обяснения използват терминологията на NIST за състезателно машинно обучение и насоките на OWASP за LLM приложения. Сценариите са илюстративни. Таксономия на NIST за състезателно машинно обучение Насоки на OWASP за инжектиране на промптове Насоки на OWASP за обработката на изхода

По време на оценката на риска поддържайте разграниченията ясни. Злонамерен документ, извлечен от приложение за генериране, обогатено с извличане (RAG), не е автоматично отравяне на данните за обучение: извличането само по себе си не актуализира теглата на модела. Вместо това то може да изложи приложението на непряко инжектиране на промптове.

За сигурността на LLM по-силните промптове сами по себе си са непълна стратегия за контрол. OWASP препоръчва предпазни мерки като ограничени права и одобрение на чувствителни действия, а NCSC подчертава, че инжектирането на промптове трябва да се управлява като продължаващ риск чрез дизайна и експлоатацията на системата. Насоки на OWASP за инжектиране на промптове Насоки на NCSC за риска от инжектиране на промптове

ISO 27090 спрямо ISO 27001 и ISO 42001

Тези стандарти подпомагат различни части от работата на организацията по сигурността и управлението на AI.

Разграниченията следват описанията на издателите на ISO 27001, ISO 27002 и ISO 42001.

За екип, който вече поддържа ISMS, практичният подход е да разшири съществуващите записи. Добавете съответните AI системи в регистъра на активите, оценете пътищата им за атака, определете собственици на третирането и свържете подкрепящите доказателства. За повече информация как да организирате тази работа вижте контролния списък за внедряване на ISO 27001.

Практически контролен списък за внедряване на ISO 27090

Стъпките по-долу са подход за внедряване, изграден въз основа на предмета на стандарта и публичните насоки за сигурен AI. Те не са официален контролен списък на ISO, нито изброяване на задължителни клаузи.

1. Определете системата и нейния собственик

Изберете случай на употреба на AI с ясна бизнес цел. Запишете отговорния собственик, потребителите, доставчика на модела, начина на хостване и свързаните услуги.

След това очертайте границата на прегледа. Включете приложението и неговите зависимости, а не само крайната точка на модела. Асистент за клиенти с достъп до инструменти изисква различна оценка от вътрешен инструмент за обобщаване на текст без права да извършва действия.

Полезен резултат: запис за системата, който посочва нейната цел, граници, зависимости, разрешени действия и отговорен собственик.

2. Проследете произхода на данните и моделите

Запишете откъде идват наборите от данни и артефактите на моделите, кой може да ги променя и кои версии са внедрени. Включете входните данни за донастройка, колекциите за извличане, промптовете и каналите за обратна връзка, които са от значение за системата.

Насоките на NCSC за разработка препоръчват проследяване на AI активите и техния произход, тяхната защита и запазване на информацията, необходима за възстановяване на надеждни версии. Насоки на NCSC за сигурна разработка на AI

При закупен модел попитайте доставчика кои отговорности поема и каква информация предоставя, когато моделите или услугите се променят.

Полезен резултат: регистър с версии, източници, правила за достъп, история на промените и отговорности на доставчиците.

3. Моделирайте заплахите за реалния работен процес

Прегледайте системата от гледна точка на нападателя. Установете входните точки, чувствителните активи, правата и последиците от успешно компрометиране. Насоките на NCSC за сигурен дизайн препоръчват моделиране на заплахите и внимание към компонентите от трети страни и принципа на най-малките привилегии. Насоки на NCSC за сигурен дизайн на AI

Опишете конкретни сценарии. „Риск от AI“ е твърде широко, за да доведе до полезно действие. „Документ, качен от външна страна, убеждава асистента да поиска файл с ограничен достъп, съдържащ доказателства“ дава на екипа нещо конкретно за анализ.

Определете приоритетите според изложеността и потенциалната вреда. Запишете кой приема остатъчния риск и кога това решение трябва да бъде преразгледано.

Полезен резултат: кратък регистър на рисковете, който свързва сценариите за атаки с активи, последици, предпазни мерки и собственици.

4. Поставете предпазни мерки на съответните граници

Изберете контроли за сценария, с който се занимавате. За активите на моделите това може да включва защитено съхранение, ограничения на достъпа и проверки на целостта. За внедрените услуги помислете за удостоверяване, разделяне между средите и контроли, които намаляват неразрешения достъп или изтичането на данни. Това са теми в насоките на NCSC за внедряване. Насоки на NCSC за сигурно внедряване на AI

При генерирания изход валидирайте и кодирайте съдържанието за неговото местоназначение, преди друга система да предприеме действие въз основа на него. Насоките на OWASP за обработката на изхода обясняват защо изходът на модела не трябва да придобива авторитет само защото идва от модела. Насоки на OWASP за обработката на изхода

Полезен резултат: запис за контрола, който посочва границата, която тя защитава, нейния собственик и доказателствата, с които се проверява.

5. Тествайте цялото приложение

Проектирайте тестовете около последиците, установени в модела на заплахите. За RAG асистент използвайте състезателни документи и потребители с различни права. За агент тествайте какво се случва, когато извлечено съдържание го подтиква да надхвърли разрешените си действия.

Определете очаквания резултат, преди да изпълните теста. Пример: приложението трябва да откаже заявка за файл с ограничен достъп, дори ако моделът се опита да направи тази заявка.

Запишете конфигурацията на приложението, версията на модела, входните данни за теста, резултата и евентуалните коригиращи действия. Изберете тестови данни, които не разкриват ненужно реална поверителна информация.

Полезен резултат: повторяеми тестове за сигурност, обвързани с конкретни рискове и решения за пускане.

6. Наблюдавайте промените и подгответе реакция

Преглеждайте ефекта от актуализациите на моделите, данните и промптовете. Наблюдавайте съответните входни и изходни данни, като защитавате чувствителната информация в журналите. Насоките на NCSC за експлоатация подчертават наблюдението на поведението и последиците за сигурността от промените през цялата експлоатация. Насоки на NCSC за сигурна експлоатация на AI

Решете предварително кой може да деактивира инструмент, да отнеме идентификационни данни, да изолира интеграция или да върне предишна версия. Определете поводи за преглед, като нов доставчик, разширени права, съществена актуализация на модела или инцидент със сигурността.

Полезен резултат: отговорности за наблюдението, критерии за преглед на промените, процедура за реагиране при инциденти и тестван път за възстановяване.

Как рисковете за сигурността на AI се превръщат в доказателства

Таблицата по-долу е предложен работен шаблон. Примерите за доказателства в нея са практически препоръки, а не списък с документи, изисквани от ISO 27090.

Представете си например екип по сигурност, който използва асистент за обобщаване на доказателства от клиенти. Документ от доставчик съдържа инструкции доказателствата да бъдат качени на външен адрес.

Тестът на екипа трябва да проследи опитаното действие през приложението. Има ли асистентът инструмент, който може да качва файлове? Прилага ли този инструмент правата на потребителя? Ограничени ли са местоназначенията? Трябва ли отговорно лице да одобри прехвърлянето?

Полезният запис за преглед би посочил сценария, границата, която предотвратява прехвърлянето, резултата от теста и лицето, одобрило остатъчния риск. Ако системата се промени, този запис казва на следващия проверяващ какво трябва да се провери отново.

Този подход дава на оценката повече съдържание от твърдението, че системата използва „отговорен AI“. Той свързва решението за сигурността с нещо, което друг човек може да провери. За повече информация как да организирате подкрепящите материали вижте как да структурирате готовността за одит.

Сертифициране и изисквания по ISO 27090

ISO 27090 дава насоки за сигурност, а не изисквания за сертифициране на система за управление. Обяснението на ISO разграничава целта му от изискванията за AIMS в ISO 42001. Обяснение на ISO за ISO 27090

Първо определете от каква увереност се нуждаете: преглед на сигурността, отговор за увереност пред клиент, вътрешна оценка на пропуските или сертифициране по приложим стандарт за система за управление.

Помолете всеки, който предлага оценка, да посочи нейния обхват, критерии и схема за осигуряване на увереност. Така резултатът се тълкува по-лесно и се избягва объркването на преглед на практиките за сигурност на AI със сертифициране на система за управление.

За проект по внедряване се сдобийте с публикувания стандарт, прегледайте насоките спрямо собствените си системи и запишете защо определени предпазни мерки са подходящи. Примерите в тази статия дават начална структура за тази работа.

ISO 27090 и Актът за изкуствения интелект на ЕС

Прилагането на международен стандарт не установява автоматично съответствие с Акта за изкуствения интелект на ЕС. Член 40 свързва презумпцията за съответствие с хармонизираните стандарти, позоваванията на които са публикувани в Официален вестник на ЕС, и то само доколкото те обхващат съответните изисквания или задължения. Член 40 от Акта за изкуствения интелект на ЕС

Използвайте преглед на сигурността по ISO 27090 като един от входовете за отделно определена оценка на съответствието. Запишете правното задължение, което се оценява, доказателствата, които го подкрепят, и евентуалния оставащ пропуск.

Често задавани въпроси за ISO 27090

Кога е публикуван ISO 27090?

Първото издание, ISO/IEC 27090:2026, е публикувано на 14 октомври 2026 г. Когато по-стари материали се позовават на проект или на по-ранна година, проверете актуалния запис на издателя. Запис за публикацията в IEC

Обхваща ли ISO 27090 генеративния AI и сигурността на LLM?

Публикуваното му съдържание включва инжектиране на промптове и чувствителни изходи на модели, което го прави приложим за сигурността на генеративния AI. Обхватът му включва и други AI системи. Публикуван образец на ISO/IEC 27090 Обяснение на ISO за ISO 27090

Може ли компания, която използва AI от трети страни, да прилага стандарта?

Да. Посочената аудитория включва организации, които използват AI, както и организации, които го разработват. Започнете с рисковете и отговорностите, които са под ваш контрол, и определете какво трябва да знаете за своите доставчици. Запис за публикацията в IEC

Означава ли сертифициране по ISO 27001, че една AI система е сигурна?

Сертифицирането на система за управление не е гаранция, че отделно приложение ще устои на всяка атака. Използвайте системата за управление, за да организирате решенията за риска, и оценявайте реалния дизайн, конфигурация и поведение на AI системата. ISO 27090 може да подпомогне тази работа по сигурността.

Откъде мога да получа ISO 27090 в PDF формат?

Използвайте официалния каталог на ISO или IEC Webstore за публикувания стандарт и възможностите за лицензиране. Проверете дали обозначението е ISO/IEC 27090:2026. Статия или преглед съдържа само част от материала.

Направете работата по сигурността на AI проверима

Започнете с един случай на употреба на AI със значими последици. Установете как би могъл да бъде компрометиран, изберете предпазни мерки за съответните граници и определете доказателствата, които ще покажат, че тези мерки работят. Дайте на всяко действие собственик и повод за преглед.

Secani свързва изисквания, рискове, контроли, доказателства, собственици и решения от прегледи в общо работно пространство за сигурност и съответствие. Говорете със Secani за организирането на работата ви по сигурността на AI, така че екипите да виждат какво е оценено, какво изисква внимание и кой отговаря.