Akt EU o umetni inteligenci: razvrstite primere uporabe in načrtujte dokazila

Upravljanje umetne inteligence se začne z vedenjem, katere sisteme organizacija zagotavlja, uvaja ali kako drugače daje na voljo. Seznam imen modelov ne zadostuje: obveznosti, ki jih je treba preučiti, določajo predvideni namen, okolje uvedbe in vaša vloga.

Za vodstvo je razvrščanje poleg pravne presoje tudi odločitev o razporeditvi virov. Določa, kateri projekti potrebujejo strokovni pregled, kaj morajo dokazati dobavitelji in katera dokazila morajo obstajati pred izdajo. Orodje za zaposlovanje in notranji pomočnik za pisanje lahko uporabljata isti model, pa vendar zahtevata zelo različni oceni.

Uporaben rezultat je pregledan register primerov uporabe, povezan z lastniki, zahtevami, dokazili in odločitvami o spremembah – ne oznaka za celotno podjetje, ki pravi „umetna inteligenca z nizkim tveganjem“.

Pred določitvijo tveganja ugotovite obseg in odgovornost

Akt EU o umetni inteligenci je uredba z obveznostmi, ki so odvisne od dejavnosti, sistema in operaterja. Njeno ozemeljsko področje uporabe vključuje ponudnike, ki sisteme dajejo na trg EU ali v uporabo, uvajalce s sedežem ali lokacijo v EU ter nekatere ponudnike in uvajalce zunaj EU, kadar se izhodni podatki sistemov uporabljajo v EU. Državljanstvo samo po sebi ni merilo.

Pravni in tehnični pregledovalci naj ugotovijo, ali aplikacija ustreza opredelitvi sistema umetne inteligence iz akta in ali veljajo morebitne izključitve s področja uporabe. Ne predpostavljajte, da je vsak avtomatizacijski skript umetna inteligenca ali da storitev, ki gostuje zunaj, ne sodi v vaše odgovornosti.

Nato zabeležite svojo vlogo:

• Ponudnik: razvije sistem ali ga da razviti in ga pod svojim imenom ali blagovno znamko da na trg ali v uporabo.
• Uvajalec: uporablja sistem v svoji pristojnosti v poklicnem okviru.
• Uvoznik ali distributer: ustrezne sisteme vnaša na trg EU ali jih omogoča prek dobavne verige, s tem pa so povezane dolžnosti preverjanja.
• Proizvajalec izdelka ali pooblaščeni zastopnik: ima odgovornosti, ki izhajajo iz posebne ureditve izdelka ali pisnega pooblastila.

Organizacija ima lahko v svojem portfelju različne vloge. Nakup API ne določa vloge končne aplikacije. Preimenovanje blagovne znamke, bistvena sprememba ali sprememba predvidenega namena lahko pod veljavnimi pogoji sproži odgovornosti ponudnika. Dodatno učenje (fine-tuning) je zato sprožilec pregleda, ne samodejen pravni sklep.

Ločite model umetne inteligence za splošne namene od sistema, ki je zgrajen okoli njega. Obveznosti ponudnika modela in obveznosti sistemov v nadaljnji verigi so povezane, vendar niso zamenljive.

Pripravite popis primerov uporabe, ki podpira odločitve

Popišite poslovne funkcije, ne le dobavitelje. Opravite pogovore z nabavo, kadrovsko službo, izdelkom, operativo in IT: umetna inteligenca lahko pride kot nova funkcija obstoječega dobavitelja in ne prek namenskega nakupa.

Za vsak primer uporabe zajemite:

Ob predvidenem namenu zabeležite dejanske poteke dela. Orodje, opisano kot „pomoč kadrovniku“, lahko kandidate dejansko izloča, če zaposleni pregledajo le njegov ožji izbor. Zapisana politika, ki zahteva človeški pregled, ne dokazuje, da se pregled izvaja.

Rezultat je zapis z različicami za vsak primer uporabe. Nerešene razvrstitve naj ostanejo vidno nerešene, z lastnikom in rokom za odločitev, namesto da bi samodejno prešle v najmanj zahtevno kategorijo.

Prepovedi, poti do visokega tveganja in preglednost ocenite ločeno

Znani opis s štirimi ravnmi – prepovedano, visoko tveganje, povezano s preglednostjo in nižje tveganje – je koristen uvod. Ni pa popolno odločitveno drevo. Dolžnosti preglednosti se lahko prekrivajo z obveznostmi za visoko tveganje, dolžnosti glede pismenosti na področju umetne inteligence pa niso omejene na sisteme visokega tveganja.

Najprej preverite prepovedane prakse

Člen 5 prepoveduje določene prakse, ob upoštevanju podrobnih pogojev in izjem te določbe. Ustrezna vprašanja za preverjanje vključujejo, ali sistem uporablja škodljivo manipulacijo ali izkorišča ranljivosti, izvaja prepovedano družbeno točkovanje, ustvarja zbirke podatkov za prepoznavanje obrazov z neciljanim pobiranjem podatkov ali izvaja prepovedano biometrično kategorizacijo.

Sklepanje o čustvih na podlagi biometričnih podatkov z umetno inteligenco na delovnih mestih in v izobraževalnih ustanovah je prav tako prepovedano, razen iz določenih zdravstvenih ali varnostnih razlogov. Analiza sentimenta, ki temelji samo na besedilu, ne spada pod to prepoved zgolj zato, ker ocenjuje čustveni ton. Za nekatere biometrične uporabe pri kazenskem pregonu veljajo strogo omejena pravila; „vse prepoznavanje obrazov je prepovedano“ ni točno nadomestilo za oceno.

Morebitno prepovedano prakso eskalirajte pred nabavo ali uvedbo. Dokazila morajo opisovati funkcionalnost in pravno utemeljitev, ne le ponavljati izjave dobavitelja o „etični umetni inteligenci“.

Preverite obe poti do razvrstitve kot sistem visokega tveganja

Pot reguliranih izdelkov, člen 6(1): preučite, ali je umetna inteligenca sama izdelek ali varnostna komponenta izdelka, ki ga zajema ustrezna zakonodaja iz Priloge I, in ali ta izdelek zahteva ugotavljanje skladnosti s strani tretje osebe. Pomembna sta oba pogoja. Za posamezen režim izdelkov uporabite spremenjeno pravno besedilo; vgradnja umetne inteligence sama po sebi ne določa statusa visokega tveganja.

Pot Priloge III, člen 6(2): preučite, ali predvidena funkcija ustreza navedenemu primeru uporabe. Osem področij so široki naslovi, ne pravila, ki bi vsako aplikacijo v neki panogi naredila za aplikacijo visokega tveganja.

Preberite podrobne vnose in izključitve. Odkrivanje finančnih goljufij se na primer razlikuje od navedene uporabe za kreditno sposobnost, preverjanje potnih listin pa je izključeno iz ustreznega vnosa o identifikaciji pri migracijah. Administrativna organizacija kampanje ni enakovredna vplivanju na volivce.

Preglednost ocenite tudi, kadar pravila za visoko tveganje ne veljajo

Člen 50 obravnava posebne interakcije in izhodne podatke. Odvisno od vloge in okoliščin se obveznosti nanašajo na obveščanje ljudi, da so v interakciji z umetno inteligenco, strojno berljivo označevanje sintetičnih izhodnih podatkov, razkritja pri globokih ponaredkih in določena besedila v javnem interesu, ustvarjena z umetno inteligenco. Za uporabe prepoznavanja čustev in biometrične kategorizacije, kjer so dovoljene, prav tako veljajo določbe o razkritju.

Tega ne skrčite na „označite vsak dokument, pri katerem je pomagala umetna inteligenca“. Ugotovite, katera določba velja, kdo mora ukrepati in ali je pomembna kakšna izjema. Ubeseditev obvestil, njihovo umestitev, ureditve za označevanje izhodnih podatkov in rezultate testov hranite kot dokazila.

Izjemo iz člena 6(3) obravnavajte kot dokumentirano oceno

Nekateri sistemi iz Priloge III lahko na podlagi člena 6(3) ne spadajo med sisteme visokega tveganja. To ni splošna izjema za orodja, pri katerih je nekje v procesu vključen človek.

Ocena mora obravnavati, ali sistem pomeni znatno tveganje škode za zdravje, varnost ali temeljne pravice, vključno s tem, ali pomembno vpliva na izid odločitev. Določba navaja okoliščine, ki vključujejo ozke postopkovne naloge, izboljšanje predhodno opravljene človeške dejavnosti, odkrivanje vzorcev ali odstopanj pod določenimi pogoji pregleda in pripravljalne naloge. Sklicevanje na izjemo zahteva izpolnitev vsaj enega od teh pogojev in ugotovitev, da sistem ne pomeni navedenega znatnega tveganja.

Ponudnik, ki se sklicuje na to izjemo, mora oceno dokumentirati, preden sistem da na trg ali v uporabo, in obravnavati veljavno obveznost registracije. Ključno je, da sistem iz Priloge III, ki izvaja profiliranje fizičnih oseb, ostane sistem visokega tveganja; to ne pomeni, da vsak sistem za profiliranje v vsakem kontekstu samodejno postane sistem visokega tveganja.

Dokazila morajo pojasniti, katere informacije sistem uporablja, kako izhodni podatki vplivajo na pregledovalce in ali domnevno pripravljalna naloga določa, kdo bo deležen vsebinske obravnave. Vključite opažanja potekov dela in reprezentativne izhodne podatke. Stavek „končno odločitev sprejme človek“ ne zadostuje, če razvrščanje, filtriranje ali priporočila to odločitev dejansko določajo.

Načrtujte glede na aktualne datume začetka uporabe

Po stanju na dan 7. oktobra 2026 aktualni pregled in časovnica akta o umetni inteligenci Evropske komisije navajata naslednje mejnike:

Preverite spremenjeno pravno besedilo in posebne prehodne določbe, ki veljajo za vas. Obstoječi sistemi, datumi dajanja modelov na trg, spremembe in posebne ureditve operaterjev lahko zahtevajo dodatno analizo. Starejši vodniki morda še vedno navajajo prejšnje datume za visoko tveganje.

Posodobljenega časovnega načrta za visoko tveganje ne razlagajte kot odloga celotnega akta. Ločeno načrtujte proračun za dolžnosti, ki že veljajo, in za pripravo na ustrezen režim visokega tveganja. Vaš register naj navaja veljavni mejnik in vir, uporabljen za njegovo določitev.

Razvrstitev pretvorite v načrt dokazil

Odgovornosti ponudnika in uvajalca so različne. Vodstvo naj zahteva načrt, specifičen za vlogo, namesto da bi vsako obveznost dodelilo vsaki ekipi.

Če zagotavljate sistem visokega tveganja

Zahteve za visoko tveganje in dolžnosti ponudnika obsegajo obvladovanje tveganj, upravljanje podatkov, tehnično dokumentacijo, vodenje evidenc, informacije za uvajalce, človeški nadzor, točnost, robustnost, kibernetsko varnost in upravljanje kakovosti. Načrtovati je treba tudi veljavno ugotavljanje skladnosti, izjavo, oznako, registracijo, spremljanje po dajanju na trg in postopke za incidente.

Te pretvorite v rezultate:

• ocena tveganj skozi življenjski cikel z ukrepi za zmanjšanje, preostalimi tveganji in odločitvami o odobritvi;
• zapisi o izvoru, primernosti in kakovosti podatkov, kjer so pomembni za sistem;
• tehnična dokumentacija, ki opredeljuje namen, zasnovo, odvisnosti, omejitve in metode vrednotenja;
• rezultati testov, povezani z merili sprejemljivosti in kontekstom uvedbe;
• navodila za nadzor, ki pojasnjujejo posredovanje, preglasitev in eskalacijo;
• specifikacije beleženja, ureditve spremljanja in postopki za incidente;
• delovni načrt ugotavljanja skladnosti, ki opredeljuje veljavno pot in zahtevane zapise.

Vsi sistemi visokega tveganja ne sledijo isti poti ocenjevanja. Ne načrtujte proračuna za univerzalno presojo tretje osebe in varnostnega certifikata ne obravnavajte kot dokaza skladnosti z aktom o umetni inteligenci.

Če uvajate sistem visokega tveganja

Osredotočite se na delovanje sistema v skladu z navodili, dodelitev usposobljenega nadzora, spremljanje njegove uporabe in vodenje zahtevanih evidenc. Obravnavajte primernost vhodnih podatkov, kjer te vhode nadzorujete, ter veljavne zahteve glede obveščanja delavcev ali prizadetih oseb.

Od dobaviteljev zahtevajte ustrezna navodila, omejitve, zahteve glede nadzora in informacije o skladnosti. Opredelite, česa ne morejo zagotoviti in kdo bo vrzel zapolnil. Izjava dobavitelja o zagotovilih ne dokazuje, da je vaša lokalna konfiguracija ustrezna.

Ocenite, ali je za vašo kategorijo uvajalca in primer uporabe zahtevana ocena učinka na temeljne pravice. Ta ni splošna za vse uvedbe. Kadar so vključeni osebni podatki, zahteve GDPR ocenite ločeno; ocena učinka v zvezi z varstvom podatkov in ocena po aktu o umetni inteligenci služita različnim pravnim namenom, tudi kadar se dokazila prekrivajo.

Za vsak rezultat določite lastnika, pregledovalca, rok, lokacijo vira in merilo sprejemljivosti. „Politika naložena“ ni enakovredno „kontrola dokazana“.

Primer iz prakse: en model, dve poslovni odločitvi

Ponazoritvene predpostavke: delodajalec v EU uporablja jezikovni model tretje osebe za notranjega pomočnika za pisanje in za ločeno aplikacijo za zaposlovanje. Aplikacija za zaposlovanje kandidate točkuje glede na merila delovnega mesta in prikaže razvrščen ožji izbor. Delodajalec obe uporablja interno; njegove natančne vloge operaterja zahtevajo pregled.

Za pomočnika za pisanje zabeležite dovoljene naloge priprave osnutkov, omejitve podatkov, pregled izhodnih podatkov in morebitne veljavne zahteve glede preglednosti. Običajno notranje pisanje osnutkov ne postane sistem visokega tveganja zgolj zato, ker uporablja umetno inteligenco. Razširitev na ocenjevanje v zaposlovanju bi sprožila ponovno oceno.

Pri zaposlovanju je neposredno pomemben vnos o zaposlovanju iz Priloge III. Preglejte točkovanje in profiliranje kandidatov, ne le opisa vmesnika. Če kadrovniki upoštevajo le kandidate iz ožjega izbora, sistem pomembno oblikuje dostop do zaposlitve. Človeška odobritev končne zaposlitve tega vpliva ne odpravi.

Odločitev vodstva je zato za vsako aplikacijo drugačna. Pomočnik za pisanje lahko po pregledu nadaljuje s sorazmernimi kontrolami. Projekt zaposlovanja potrebuje načrt pripravljenosti za visoko tveganje, dokazila dobavitelja, usposobljen nadzor, vrednotenje lokalne uporabe in dokumentirano odločitev o izdaji.

Če ekipa predlaga, da se funkcija zaposlovanja spremeni v načrtovanje terminov razgovorov, ta novi namen in potek dela ocenite na novo. Načrtovanje terminov je lahko ozka postopkovna naloga, vendar bi ohranjanje točkovanja kandidatov v ozadju spodkopalo spremenjeno utemeljitev. Odločitev shranite kot novo različico, namesto da bi prepisali prvotni zapis.

Odgovornost naj bo vidna v operativnih odločitvah

Dodelite poslovnega lastnika, ki lahko pojasni namen in odobri vire, tehničnega lastnika, ki lahko utemelji vedenje, ter pravnega ali skladnostnega pregledovalca, ki lahko razvrstitev izpodbija. Odobritev izvršnega vodstva naj razreši financiranje, omejitve izdaje in nerešena tveganja – ne pa nadomesti strokovne analize.

Kot praktično priporočilo razvrstitev preglejte, ko se spremenijo namen, uporabniki, podatki, integracije, avtonomija ali pomemben vpliv na odločitve. Ta pregled povežite s podaljšanji nabavnih pogodb in izdajami izdelkov. Posodobitev modela sama po sebi morda ne spremeni razvrstitve, lahko pa razveljavi dokazila o vrednotenju ali operativne predpostavke.

Pogoste napake so sprejemanje razvrstitev dobavitelja za celoten portfelj, predpostavka, da človeški pregled samodejno ustvari izjemo, spregledanje že veljavnih dolžnosti glede pismenosti in preglednosti ter zbiranje dokumentov brez testiranja lokalnega delovanja. Sistem upravljanja po ISO/IEC 42001 lahko podpira upravljanje, vendar certifikacija samodejno ne dokazuje skladnosti z aktom o umetni inteligenci.

Secani lahko podpira potek dela z dokazili tako, da povezuje zahteve, kontrole, izvorno gradivo, lastnike, naloge in pregledane odločitve. Začnite z enim procesom, dokazila priložite tistemu, kar dokazujejo, in komentarje, odobritve ter časovne žige hranite skupaj s pomembnimi sklepi. Predloge, ki jih pomaga pripraviti umetna inteligenca, obravnavajte kot osnutke za človeški pregled, ne kot pravne odločitve. Naš vodnik o upravljanju agentov umetne inteligence ponuja praktične kontrole za dovoljenja in pregled.

Naslednji koristen korak je osredotočena delavnica o razvrščanju: izberite primere uporabe v živo z največjimi posledicami, povabite njihove poslovne in tehnične lastnike ter pripravite pregledane zapise z nerešenimi vprašanji in nalogami za dokazila. To vodstvu da zagovorljivo podlago za odločitev, kaj lahko nadaljuje, kaj potrebuje pogoje in kaj zahteva nadaljnjo oceno.