ISO 42001.
Organizirajte odgovornost za UI, tveganja in operativne odločitve v sistemu upravljanja ter razumite meje njegovega dokazovanja.
- ISO/IEC 42001:2023
- Avtor: Jonathan Bezdek
- Stanje: 22. 10. 2026
- Čas branja: 7 min.
Kratek odgovor.
ISO 42001 je mednarodni standard zahtev za sistem upravljanja umetne inteligence, krajše AIMS. ISO/IEC 42001:2023 je namenjen organizacijam, ki UI razvijajo, zagotavljajo ali uporabljajo. Ureja odgovornost, tveganja in stalno izboljševanje. Prostovoljno certificiranje neodvisnega organa ocenjuje sistem upravljanja v določenem obsegu in ne pomeni splošne odobritve vsake uporabe UI.
ISO 42001 in sistem upravljanja UI.
Sistem upravljanja UI povezuje organizacijske cilje z zanesljivimi odločitvami o uporabi umetne inteligence. AIMS opisuje, kdo nosi odgovornost, katere informacije odločitev potrebuje in kako izkušnje vodijo do izboljšav. ISO/IEC 42001:2023 je prva mednarodna izdaja iz decembra 2023; javni zapis objave ISO jo še naprej navaja kot objavljeno.
Standard obravnava organizacijo in njeno ravnanje z UI. To AIMS razlikuje od posameznega preizkusa modela, odobritve izdelka ali preverjanja zgolj izvorne kode. Dober rezultat preizkusa lahko podpre odločitev; dodatno mora ostati sledljivo, kdo je odgovoren za uporabo pod katerimi pogoji in kako se ocenjujejo spremembe.
Javna razlaga ISO o ISO 42001 v razdelku 3 razlikuje podporo pravnim obveznostim od njihovega dejanskega izpolnjevanja. Sistem upravljanja za to ustvari delovne postopke, vendar ne nadomešča preverjanja konkretnega pravnega okvira. Evropske ali nacionalne prevzeme z drugo letnico je treba prav tako razlikovati od mednarodne osnovne izdaje.
Za koga je primeren ISO 42001.
ISO 42001 je namenjen tudi organizacijam, ki UI pridobivajo pri drugih ponudnikih. Javna opisa ISO in IEC navajata razvoj, zagotavljanje in uporabo ne glede na velikost ali panogo. Ponudnik storitev s kupljenimi orodji UI zato lahko vzpostavi AIMS, ne da bi sam učil temeljni model.
Ustrezen obseg izhaja iz dejanskih dejavnosti. Razjasnite na primer, katere storitve, ekipe, lokacije in odločitve naj bodo obravnavane ter kakšne odvisnosti od zunanjih modelov obstajajo. Ozek začetek olajša organizacijo dela; vmesniki in posledice zunaj teh meja morajo biti kljub temu razvidni.
Stranke lahko pričakujejo določen obseg certificiranja. Zgodaj vprašajte, ali naj dokazilo zajema razvoj storitve, njeno delovanje ali interno uporabo. Samo ime organizacije na certifikatu še ne pojasni, katera dejavnost UI je bila dejansko ocenjena.
Pregled zahtev ISO 42001.
Zahteve povezujejo vodstvo in cilje z obravnavo tveganj UI, operativnimi postopki in izboljševanjem. Naslednjih šest delovnih področij je uredniška orientacija na podlagi javne razlage ISO, ne celotna reprodukcija standarda ali njegovih prilog.
Razjasnite nalogo in odgovornost.
Vodstvo delu z UI daje smer in pristojnosti. Za praktično izvajanje naj strokovno področje, razvoj, nabava in kontrolne funkcije razumejo, katere odločitve smejo sprejemati in kdaj vključiti druge. Osrednji koordinator ne nadomešča strokovne odgovornosti posameznih udeležencev.
Povežite cilje in pričakovanja.
Sistem upravljanja potrebuje sledljivo povezavo s cilji organizacije in pričakovanji prizadetih strani. Za izbrano uporabo opišite nameravani rezultat in veljavne omejitve. Tako lahko odgovorni pozneje presodijo, ali sprememba še ustreza odobrenemu namenu.
Ocenite tveganja in vplive.
Obravnava tveganj UI vključuje tudi možne posledice za ljudi in skupine. Javni opis dopolnilnega ISO/IEC 42005:2025 pojasnjuje ta pogled skozi življenjski cikel. V praksi pomaga ločena obravnava poslovne škode in vplivov na prizadete posameznike, da dobri kazalniki uspešnosti ne zakrijejo relevantnih negativnih posledic.
Upravljajte podatke, dobavitelje in življenjski cikel.
Odgovornost sega prek prve uvedbe. Dokumentirajte podatkovne vire, zunanje storitve in poti sprememb, relevantne za svojo uporabo, tako da poznejše odločitve temeljijo na pravem stanju. Posodobitev kupljenega modela lahko zahteva nove evalvacije ali drugačne omejitve uporabe.
Zagotovite usposobljenost in informacije.
Udeleženci potrebujejo informacije, ki ustrezajo njihovi nalogi. Nabavna ekipa potrebuje drugačne podlage za odločanje kot osebe, ki med delovanjem ocenjujejo izhode UI. Razumljivo zabeležite pristojnosti, znane omejitve in poti eskalacije ter preverite, ali te informacije dosežejo dejanske uporabnike.
Ocenjujte in izboljšujte.
AIMS ostaja trden le, če izkušnje in ugotovljena odstopanja vodijo do preverljivih odločitev. Zato preučite delovanje in učinkovitost svojih postopkov. Pri vsaki izboljšavi naj bo razvidno, kdo je zanjo odgovoren, kateri rezultat se pričakuje in na kaj se opira poznejša ocena.
Vzpostavitev sistema upravljanja UI.
Opredelite primere uporabe.
Za praktičen začetek popišite konkretno storitev UI z namenom, sodelujočimi osebami in pomembnimi odvisnostmi, namesto da naštejete samo imena kupljenih modelov.
Določite pravice odločanja.
Imenujte odgovorne za uporabo, tehnične spremembe in ocenjevanje ter uskladite, katere odločitve vodstvo, strokovna področja in kontrolne funkcije sprejemajo skupaj.
Preučite tveganja in posledice.
Glede na dejanski kontekst uporabe ocenite možne škodljive učinke in prizadete skupine ter določite, katere dodatne informacije manjkajo za trdno odločitev.
Izvajajte postopke in vodite dokazila.
Izvedite ustrezne ukrepe ter povežite odobritve, preizkuse, informacije dobaviteljev in operativna opažanja z vsakokrat ocenjeno storitvijo in različico.
Opravite notranjo oceno.
Preverite izvedbo z zadostno neodvisnostjo od lastnega dela in zabeležite, katera odstopanja, odprte odločitve in izboljšave bodo obravnavani pred naslednjo odobritvijo.
Nadaljujte delovanje in dokazovanje.
Načrtujte redna ponovna ocenjevanja in po potrebi neodvisno certificiranje ter se tudi med načrtovanimi termini odzivajte na spremenjene modele, naloge ali vplive.
Kaj dokazuje certificiranje ISO 42001.
Certificiranje ISO 42001 potrjuje ocenjeno skladnost AIMS v navedenem obsegu. Po javni razlagi ISO, razdelek 7, je prostovoljno in ga izvajajo neodvisni certifikacijski organi. ISO razvija standard, sam pa ne izdaja certifikatov.
Usposobljenost organa, ki preverja, je samostojno vprašanje. ISO/IEC 42006:2025 po javnem opisu ISO dopolnjuje zahteve za organe, ki revidirajo in certificirajo sisteme upravljanja UI. Pri izbiri preverite ustrezen obseg dejavnosti in status akreditacije, kot priporoča stran ISO o certificiranju.
Predloženo dokazilo mora ustrezati trenutni odločitvi. Preverite obseg, izdajatelja, status in navedene podatke o veljavnosti. Operativni zapisi in tehnične evalvacije ostajajo potrebni za presojo konkretnih aplikacij UI; certifikat AIMS jim ne daje splošne varnostne ali pravne odobritve.
ISO 42001 in drugi okviri.
ISO 27001 organizira informacijsko varnost in lahko zagotovi obstoječe postopke za delo z UI. NIST AI RMF podpira preučevanje tveganj UI glede na okoliščine, akt EU o umetni inteligenci pa določa lastne zakonske vloge in obveznosti. ISO 9001 ponuja dodaten kontekst sistema vodenja za skupne postopke upravljanja procesov in izboljševanja; posamezni strokovni predmet ocenjevanja se ohrani.
V Secani.
Secani vsebuje uredniški delovni katalog za ISO/IEC 42001:2023. Podatki profila med drugim beležijo vlogo ponudnika ali uporabnika, zunanje modele, osebne podatke v UI in možne vplive. Utemeljene odločitve o uporabljivosti pomagajo obravnavo povezati z opisanim kontekstom. Katalog je pripomoček in ne nadomešča zakonitega dostopa do standarda, strokovne ocene ali neodvisnega certificiranja.
Naslednji korak.
Izberite primer uporabe UI ter zberite namen, odgovorno osebo, bistvene odvisnosti in dosedanjo odobritev. Nato preverite, ali lahko druga oseba razume, na kateri podlagi je bila uporaba dovoljena in kdaj je treba odločitev ponovno oceniti. Iz tega nastane konkreten začetek sistema upravljanja.
Pogosta vprašanja.
Da. Splošno področje uporabe zajema tudi organizacije, ki uporabljajo izdelke ali storitve UI drugih ponudnikov. Odločilna sta lastna dejavnost in določen obseg sistema upravljanja.
Ne. Certificiranje ocenjuje sistem upravljanja UI v njegovem obsegu. Varnost in primernost konkretnih aplikacij še naprej potrebujeta ustrezne tehnične in strokovne ocene.
Ne. AIMS lahko podpre organizacijo dokazil, vendar ne nadomešča pravnega preverjanja vlog in uporabljivosti. Zakonsko predpisane postopke ocenjevanja je treba upoštevati ločeno.
Ne. Certificiranje je prostovoljna, samostojna odločitev. Organizacija lahko odgovornost za UI in operativne postopke vzpostavlja ter izboljšuje že pred zunanjim ocenjevanjem.
Sledljivo organizirajte odgovornost za UI.
S Secani se pogovorite o povezovanju konteksta, odločitev in dokazil.
Ta stran na splošno pojasnjuje standard. Odločilni so trenutno stanje standarda in zahteve posameznega ocenjevalnega ter pravnega okvira.