ISO 42001, NIST AI RMF и Актът за ИИ: свържете ролите

Управлението на AI може да съчетава система за управление, рамка за риск и правни задължения. Инженерното предизвикателство е те да бъдат свързани, без да се твърди, че са взаимозаменяеми. Политика, доклад от оценка и правно решение за класификация може да подкрепят една и съща AI услуга, но всяко от тях отговаря на различен въпрос.

ISO/IEC 42001 определя как организацията управлява AI. Рамката за управление на риска от AI на NIST помага на екипите да изследват и управляват рисковете в контекст. Актът за изкуствения интелект на ЕС установява правни задължения според системата, нейното предназначение и ролята на организацията като оператор.

За CTO полезният резултат е една верига на управление, която може да бъде прегледана: определен случай на употреба, отговорни собственици, внедрени предпазни мерки, доказателства от тестове, решения за пускане и мониторинг. Съпоставките между рамки трябва да сочат към тази верига, като запазват изискванията, които все още изискват техническа, правна или свързана със съответствието работа.

Разберете какво установява всеки инструмент

ISO 42001: направете управлението повторяемо

ISO/IEC 42001 определя изискванията за създаване, внедряване, поддържане и непрекъснато подобряване на AIMS. Изискванията ѝ към системата за управление обхващат контекста на организацията, лидерството, планирането, подкрепата, функционирането, оценяването на изпълнението и подобряването.

Тази структура е важна, когато няколко екипа изграждат или купуват AI. Тя осигурява основа за решаване кой разрешава внедряването, как се провеждат оценките на въздействието и риска, как се обработват зависимостите от доставчици и как неуспехите водят до коригиращи действия.

Стандартът включва и референтни контроли в Приложение A и насоки за внедряване. Изборът на контроли се основава на риска и изисква документирана обосновка; копирането на приложението в контролен списък не доказва, че системата за управление работи.

Независим сертифициращ орган може да оцени AIMS с определения обхват. Самата ISO не сертифицира организации. Сертификацията дава увереност за тази система за управление в рамките на посочената граница, а не неограничено твърдение, че всеки модел или резултат е безопасен.

NIST AI RMF: изследвайте действителния риск

NIST AI RMF организира работата по риска около функциите Govern, Map, Measure и Manage. Govern е хоризонтална функция; функциите не са просто четири последователни фази на проект.

Характеристиките ѝ за надеждност включват валидност и надеждност, безопасност, сигурност и устойчивост, отчетност и прозрачност, обяснимост и интерпретируемост, засилена поверителност и справедливост с управлявана вредна пристрастност. Тези характеристики може да включват компромиси. По-подробните обяснения например може да разкрият информация, която се нуждае от защита на поверителността.

Насоките на NIST помагат на екипите да превърнат широки цели във въпроси и оценки, специфични за случая на употреба. Те разглеждат и отчетността; управлението не е запазено само за ISO 42001. Няма схема за сертификация по NIST AI RMF, сравнима със сертификацията на системи за управление по ISO. Външна оценка може да подкрепи увереността, но нейният обхват и методология трябва да бъдат посочени.

Актът за ИИ: определете задълженията, а не само рисковете

Актът за изкуствения интелект на ЕС урежда определени практики, системи с ИИ и модели на ИИ с общо предназначение чрез различни разпоредби. Правната приложимост не се определя само от техническа оценка на риска. Значение имат предназначението, териториалният обхват, ролята на оператора и конкретните правила за класификация.

Задълженията на доставчика се различават от тези на внедрителя. Моделът не е същото като приложението, което го включва, а наричането на софтуер „агент“ не решава въпроса за неговата правна роля или класификация.

Започнете с обхвата и правната приложимост

Поддържайте регистър на AI на ниво оперативни случаи на употреба, а не само на имена на доставчици. Един базов модел може да обслужва както вътрешен асистент за изготвяне на текстове, така и инструмент за подбор на персонал. Тези внедрявания имат различни засегнати лица, последици, контроли и потенциални задължения.

За всеки случай на употреба запишете:

• Предназначението, подкрепяните решения, забранените употреби и местата на внедряване.
• Собственика на системата, техническия собственик, потребителите и засегнатите лица.
• Доставчиците на модела и приложението, механизмите за хостинг и зависимостите.
• Източниците на данни, резултатите, интеграциите и разрешените действия.
• Ролята на организацията като оператор и мотивите, които я подкрепят.
• Класификацията, приложимите задължения, датата на преглед и нерешените въпроси.

Организация извън ЕС все пак може да попадне в обхвата на Акта при определени обстоятелства. И обратно, наличието на клиенти в ЕС не оправдава възлагането на всяко възможно задължение на всеки продукт. Прегледайте действителните териториални условия и условията за ролята.

Разграничавайте забранените практики, изискванията за високорискови системи, конкретните задължения за прозрачност и задълженията за моделите на ИИ с общо предназначение. Те не са взаимозаменяеми нива в една инженерна скала за тежест. Привидно нискорисков чатбот може да има задължения за прозрачност; случай на употреба с голямо въздействие изисква по-подробна правна оценка.

Използвайте актуалния график за прилагане

Прегледът на Европейската комисия за Акта за ИИ, в проверения контекст към 7 октомври 2026 г., посочва следния график:

Оценявайте изменените разпоредби, преходните режими и конкретната система отделно. Не отлагайте вече приложимите задължения, защото съществува по-късна дата за високорисковите системи. Поддържайте правната оценка датирана и използвайте нашето ръководство за готовност за Акта за ИИ за контекста относно графика и оценката на ролята.

Изградете една верига от доказателства, а не три библиотеки с документи

Практическата верига на управление започва със случая на употреба и завършва с прегледано решение:

Предназначение → въздействия и рискове → изисквания → предпазни мерки → оценки → одобрение → мониторинг.

Всяка връзка се нуждае от достатъчно подробности, за да може някой извън екипа по внедряване да я провери. „Човешкият надзор е внедрен“ е недостатъчно, ако проверяващият не може да определи кой може да се намеси, какво вижда и дали намесата работи.

Използвайте запис за изискванията, който разграничава изходното изискване от неговото внедряване. Полезната минимална схема включва източника и версията, обхвата, текста на изискването или препратка, местното тълкуване, собственика на контролата, свързаните доказателства, проверяващия, статуса и остатъчния пропуск.

Третирайте тази таблица като помощно средство за внедряване, а не като авторитетна карта на равностойност. Връзките са „много към много“: една оценка може да подкрепя няколко изисквания, докато едно изискване може да се нуждае от множество контроли и записи.

Преди повторна употреба на доказателства проверете техния обхват, дата, версия на системата и заключение. Тест за една конфигурация на модела не може автоматично да подкрепя друга конфигурация. Корпоративна политика доказва, че съществува документирано правило; за демонстриране на изпълнението му са необходими оперативни записи.

Използвайте функциите на NIST, за да определите инженерната работа

Функциите на NIST предлагат полезен начин за организиране на въпросите по внедряването в рамките на AIMS. Те трябва да водят до конкретни артефакти, а не само до попълнени полета във въпросник.

Govern: установете правомощията за вземане на решения

Определете кой е собственик на системата, кой независимо преглежда значителните рискове и кой може да одобрява изключения или да спира внедряването. Посочете изискванията за компетентност и пътищата за ескалация. Свържете тези отговорности със съществуващите процеси за сигурност, защита на данните, покупки и управление на инциденти.

Полезен резултат е процедура за пускане, която определя изискваните проверяващи и доказателства. Приемането на риск трябва да посочва лицето, вземащо решението, обосновката, условията и повода за преглед, а не просто да записва „прието“.

Map: опишете контекста и последиците

Документирайте работния процес, преди да изберете показатели. Идентифицирайте къде AI влияе на решенията, кой понася последиците и какво се случва, когато резултатите са грешни, недостъпни или злоупотребени.

Включете предвидимата неправилна употреба и отказите на зависимостите. За агент, който може да изпълнява действия, картографирайте инструментите, идентификационните данни, достъпните данни, границите на одобрение и пътищата за възстановяване. За AI от трети страни запишете какво контролира доставчикът и какво остава ваша отговорност.

Measure: тествайте твърденията, които имат значение

Избирайте оценки, свързани с идентифицираните рискове. В зависимост от случая на употреба те може да включват точност при задачата, представяне по подгрупи, устойчивост, изтичане на лични данни, prompt injection, неоторизирани действия и разбиране от страна на операторите.

Документирайте произхода на наборите от данни, представителността, условията на тестовете, показателите, ограниченията и праговете за приемане. Където е възможно, измервайте цялото приложение: извличането, подканите, правата, интерфейсите и човешкият работен процес могат да променят резултатите дори когато базовият модел остава същият.

Manage: внедрете третирането и последващите действия

Превърнете констатациите в предпазни мерки, ограничения, отстраняване или решение да не се внедрява. Примерите включват намаляване на правата на инструментите, изискване на одобрение за действия с последици, изключване на неподдържани употреби или осигуряване на надежден резервен вариант без AI.

Определете прагове за мониторинг и процедури за реагиране. Показател без собственик или правило за реагиране е само телеметрия. Запишете кои събития задействат повторна оценка, включително актуализации от доставчика, променени източници на данни, разширени употреби и инциденти.

Направете ISO 42001 одитируем чрез оперативни записи

Ако сертификацията е цел, определете границата на AIMS, преди да се подготвяте за външен одит. Обхватът може да покрива конкретен продукт, бизнес звено или набор от дейности от жизнения цикъл, но трябва ясно да описва включените дейности и интерфейси. Тесният обхват не бива да се представя като увереност за цялата организация.

Извършете анализ на пропуските спрямо изискванията към системата за управление и приложимите контроли. Установете политика, цели, методи за оценка на риска и въздействието, документирана приложимост на контролите, отговорности и оперативни процедури. След това генерирайте доказателства, че тези процеси действително функционират.

Полезни записи са завършените оценки, прегледите на доставчици, записите за обучение, одобренията за пускане, прегледите от мониторинга, коригиращите действия, констатациите от вътрешния одит и решенията от прегледа от ръководството. Вътрешният одит и прегледът от ръководството са отделни дейности: единият оценява съответствието и ефективността; другият подпомага оценката и насочването на системата за управление от ръководството.

Независимият процес на сертификация обикновено включва етапи за оценка на готовността и на внедряването. Договорете обхвата и условията на одита със сертифициращия орган, вместо да третирате сертификацията като подаване на документи. Продължете мониторинга, вътрешния преглед и подобряването и след сертификацията.

Нито сертификат, нито оценка по RMF заместват приложима оценка на съответствието по Акта за ИИ. Пътят за оценяване на съответствието зависи от системата и съответните разпоредби; не всяка високорискова система изисква един и същ път с трета страна. Изискванията за декларация, регистрация, маркировка и докладване също трябва да бъдат проверени за съответната роля и система.

Практически пример: внедряване на AI, свързано с наемане на персонал

Илюстративни допускания: работодател в ЕС купува приложение, което класира кандидатите за преглед преди интервю. Доставчикът предоставя приложението, а работодателят конфигурира критериите за длъжността и използва класиранията. Служителите по подбор вземат окончателните решения за наемане. Да приемем, че правният преглед идентифицира високорискова употреба в областта на заетостта по Приложение III и първоначално определя работодателя като внедрител.

Това не се решава с твърдението „човек взема окончателното решение“. Класирането може съществено да повлияе на това кой ще бъде разгледан. Оценката трябва да изследва действителния работен процес, включително дали служителите по подбор рутинно пренебрегват кандидатите под определена граница.

Създайте специфичния за системата запис

Техническият собственик записва входните полета, наличната от доставчика информация за логиката на класиране, версията на приложението, конфигурацията, потребителите и местоназначенията на експортите. Отделът за покупки изисква от доставчика инструкции, ограничения, релевантни доказателства от оценки, уведомления за промени и подкрепа за задълженията на организацията.

Правният преглед документира допусканията за класификацията и ролята, включително дали бъдещо изменение или преименуване може да промени ролята. Прегледът по защита на данните отделно оценява обработването на данните на кандидатите. Управлението на AI не замества анализа по защита на данните.

Тествайте и внедрете предпазни мерки

С помощта на функциите Map и Measure на NIST екипът оценява представителни сценарии за подбор, поведението при липсващи данни и разликите в представянето между релевантни групи, когато това е законосъобразно и осъществимо. Той документира несигурността и ограниченията на извадката, вместо да представя показател за справедливост като доказателство, че цялата вредна пристрастност е изчезнала.

Човешкият надзор включва обучение на служителите по подбор, видими ограничения, път за преглед на изключените кандидатури и възможност за спиране на класирането. Екипът тества дали проверяващите разбират резултатите и могат да ги отменят без оперативни пречки.

Контролите за сигурност ограничават достъпа до записите на кандидатите и предотвратяват неодобрени експорти. Контролът на промените изисква повторна оценка, когато се променят критериите за класиране, моделите или механизмите за обработване от доставчика.

Дръжте трите заключения отделно

Записът за AIMS демонстрира как са функционирали оценките, собствеността, прегледът на доставчика и процесите на одобрение. Записът по RMF обяснява контекстуалните рискове, тестовете, третирането и остатъчната несигурност. Правният запис идентифицира приложимите задължения на внедрителя, сроковете и оставащата работа.

Да предположим, че доставчикът не е предоставил достатъчно инструкции за надежден надзор. Записът за пускане трябва да показва този пропуск, неговия собственик и решението за отлагане или ограничаване на внедряването, а не зелен статус, наследен от ISO сертификата на работодателя.

Изберете приоритети и поддържайте доказателствата след пускането

Дайте приоритет първо на приложимите правни задължения и неприемливите оперативни рискове. ISO сертификацията може да протича паралелно с отстраняването, но целта за одит не бива да измества спешните контроли.

Ако на екипите липсват последователна собственост и процеси на преглед, изградете основата на AIMS. Ако управлението съществува, но оценките на системите са слаби, използвайте RMF за подобряване на контекстуалния анализ и тестването. Ако клиент изисква сертификация, потвърдете очаквания обхват, преди да планирате бюджета.

Избягвайте универсални допускания за разходи или продължителност. Усилията зависят от броя на системите, съществуващото управление, нуждите от оценки, видимостта към доставчиците и отстраняването. RMF е свободно достъпна, но внедряването ѝ все пак изисква време на служителите; ISO сертификацията добавя съображения за достъпа до стандарта и външната оценка.

След пускането възложете поводи за преглед на артефактите. Актуализация на модела от доставчика може да обезсили резултатите от оценките; ново право за действия може да промени модела на заплахите; нов пазар може да изисква повторна правна оценка. Запазвайте предишните версии и решения, за да могат проверяващите да реконструират какво е било одобрено в съответния момент.

Честите грешки включват третирането на съпоставките като съответствие, събирането на политики без оперативни доказателства, приемането на твърденията на доставчиците без анализ, специфичен за внедряването, и записването на остатъчен риск без собственик на решението. Друга грешка е измерването на качеството на модела при пренебрегване на правата в приложението и човешкото поведение.

Secani може да подпомогне работния процес с доказателства, като свързва изисквания, контроли, изходни материали, собственици, задачи и прегледани решения. Започнете с един определен обхват, прикачете доказателствата към това, което подкрепят, и превърнете липсващите или остарели материали във възложена работа. Третирайте подпомогнатите от AI предложения като чернови: човек трябва да преглежда съпоставките и заключенията, като източниците и мотивите за одобрение се запазват. Така основата на управлението остава проверима, без да замества инженерната или правната преценка.

Въпроси, които влияят на внедряването

Могат ли съществуващите контроли за сигурност да бъдат използвани повторно?

Да, когато тяхното внедряване и доказателства обхващат внедряването на AI. Контролът на достъпа, реагирането при инциденти и управлението на доставчиците често допринасят. Те обаче сами по себе си не отговарят на въпросите за вредната пристрастност, предназначението или ефективния човешки надзор.

Какво да правим, ако доставчик не разкрива вътрешното устройство на модела?

Запишете ограничението на видимостта. Търсете доказателства, пропорционални на случая на употреба, оценете внедреното приложение и определете дали са необходими договорни гаранции, ограничения или алтернативни доставчици. Липсата на видимост не е автоматично приемлива само защото услугата се предлага търговски.

Какво трябва да направи екипът първо?

Изберете един случай на употреба с последици и съберете неговия собственик, предназначение, оценка на ролята, запис за риска, предпазни мерки, тестове и одобрение. Прегледайте пропуските по всичките три инструмента. Това ограничено упражнение показва дали организацията се нуждае от по-добро управление, по-добри технически доказателства или нерешена правна работа преди разширяване.