EU's AI-forordning: klassificér jeres anvendelsestilfælde, og planlæg evidensen

AI-governance begynder med at vide, hvilke systemer organisationen udbyder, idriftsætter eller på anden måde gør tilgængelige. En liste over modelnavne er ikke nok: Det tilsigtede formål, anvendelsessammenhængen og jeres rolle afgør, hvilke forpligtelser der skal undersøges.

For ledelsen er klassificering lige så meget en beslutning om ressourcefordeling som en juridisk vurdering. Den afgør, hvilke projekter der kræver specialistreview, hvad leverandører skal dokumentere, og hvilken evidens der skal foreligge før frigivelse. Et rekrutteringsværktøj og en intern skriveassistent kan bruge den samme model og alligevel kræve meget forskellige vurderinger.

Det brugbare resultat er et gennemgået register over anvendelsestilfælde, der er forbundet med ejere, krav, evidens og ændringsbeslutninger – ikke en virksomhedsdækkende etiket med teksten »AI med lav risiko«.

Fastlæg anvendelsesområde og ansvar, før risikoen tildeles

EU's forordning om kunstig intelligens (AI-forordningen) er en forordning med forpligtelser, der afhænger af aktiviteten, systemet og operatøren. Dens territoriale anvendelsesområde omfatter udbydere, der bringer systemer i omsætning eller ibrugtager dem i EU, idriftsættere, der er etableret eller befinder sig i EU, og visse udbydere og idriftsættere uden for EU, hvor systemernes output anvendes i EU. Statsborgerskab alene er ikke kriteriet.

Lad juridiske og tekniske reviewere fastslå, om applikationen opfylder forordningens definition af et AI-system, og om relevante undtagelser fra anvendelsesområdet gælder. Antag ikke, at ethvert automatiseringsscript er AI, eller at en eksternt hostet tjeneste falder uden for jeres ansvar.

Registrér derefter jeres rolle:

• Udbyder: udvikler et system eller får det udviklet og bringer det i omsætning eller ibrugtager det under eget navn eller varemærke.
• Idriftsætter: anvender et system under sin myndighed i en erhvervsmæssig sammenhæng.
• Importør eller distributør: bringer relevante systemer ind på EU-markedet eller gør dem tilgængelige i forsyningskæden med tilknyttede kontrolpligter.
• Produktfabrikant eller bemyndiget repræsentant: har ansvar, der følger af det konkrete produktforhold eller det skriftlige mandat.

En organisation kan have forskellige roller på tværs af sin portefølje. Køb af et API afgør ikke rollen for den færdige applikation. Ny branding, væsentlige ændringer eller ændring af et tilsigtet formål kan udløse udbyderansvar under de gældende betingelser. Finjustering er derfor en anledning til review, ikke en automatisk juridisk konklusion.

Skeln mellem AI-modellen til almen brug og det system, der er bygget omkring den. Forpligtelser for modeludbydere og forpligtelser for downstream-systemer hænger sammen, men kan ikke udskiftes med hinanden.

Byg en fortegnelse over anvendelsestilfælde, der understøtter beslutninger

Kortlæg forretningsfunktioner, ikke kun leverandører. Interview indkøb, HR, produkt, drift og IT: AI kan komme ind via en eksisterende leverandørs nye funktion snarere end via et dedikeret indkøb.

Registrér for hvert anvendelsestilfælde:

Registrér de faktiske workflows ved siden af det tilsigtede formål. Et værktøj, der beskrives som »assistance til rekrutterere«, kan i praksis udelukke kandidater, hvis medarbejderne kun ser på dets shortlist. En skriftlig politik, der kræver menneskeligt review, beviser ikke, at reviewet finder sted.

Leverancen er en versioneret registrering pr. anvendelsestilfælde. Uafklarede klassificeringer bør forblive synligt uafklarede med en ejer og en beslutningsfrist i stedet for som standard at havne i den mindst krævende kategori.

Vurdér forbud, højrisikoveje og gennemsigtighed hver for sig

Den velkendte beskrivelse med fire niveauer – forbudt, højrisiko, gennemsigtighedsrelateret og lavere risiko – er en nyttig introduktion. Den er ikke et fuldstændigt beslutningstræ. Gennemsigtighedspligter kan overlappe med højrisikoforpligtelser, og pligterne vedrørende AI-færdigheder er ikke begrænset til højrisikosystemer.

Screen først for forbudte praksisser

Artikel 5 forbyder bestemte praksisser med forbehold af bestemmelsens detaljerede betingelser og undtagelser. Relevante screeningsspørgsmål omfatter, om et system anvender skadelig manipulation eller udnytter sårbarheder, foretager forbudt social pointgivning, opretter databaser til ansigtsgenkendelse gennem ikkemålrettet indsamling (scraping) eller udfører forbudt biometrisk kategorisering.

AI-baseret udledning af følelser ud fra biometriske data på arbejdspladser og uddannelsesinstitutioner er også forbudt, undtagen af bestemte medicinske eller sikkerhedsmæssige grunde. Sentimentanalyse af ren tekst falder ikke ind under dette forbud, blot fordi den vurderer følelsesmæssig tone. Visse biometriske anvendelser til retshåndhævelse er underlagt snævert afgrænsede regler; »al ansigtsgenkendelse er forbudt« er ikke en korrekt erstatning for en vurdering.

Eskalér en mulig forbudt praksis før indkøb eller ibrugtagning. Evidensen bør beskrive funktionaliteten og det juridiske ræsonnement, ikke blot gentage en leverandørs erklæring om »etisk AI«.

Test begge veje til højrisikoklassificering

Vejen via regulerede produkter, artikel 6, stk. 1: Undersøg, om AI-systemet i sig selv er et produkt eller en sikkerhedskomponent i et produkt, der er omfattet af den relevante lovgivning i bilag I, og om produktet kræver overensstemmelsesvurdering foretaget af tredjepart. Begge betingelser er afgørende. Brug den ændrede lovtekst for den specifikke produktordning; indlejring af AI fastslår ikke i sig selv højrisikostatus.

Vejen via bilag III, artikel 6, stk. 2: Undersøg, om den tilsigtede funktion svarer til et opført anvendelsestilfælde. De otte områder er brede overskrifter, ikke regler, der gør enhver anvendelse i en branche til højrisiko.

Læs de detaljerede punkter og undtagelser. For eksempel holdes afsløring af økonomisk svig adskilt fra den opførte anvendelse vedrørende kreditværdighed, og verifikation af rejsedokumenter er undtaget fra det relevante punkt om identifikation inden for migration. Administrativ organisering af kampagner svarer ikke til at påvirke vælgere.

Vurdér gennemsigtighed, også når højrisikoreglerne ikke gælder

Artikel 50 omhandler bestemte interaktioner og output. Afhængigt af rollen og omstændighederne vedrører forpligtelserne at informere personer om, at de interagerer med AI, maskinlæsbar mærkning af syntetisk output, oplysning om deepfakes og bestemt AI-genereret tekst af offentlig interesse. Anvendelser af følelsesgenkendelse og biometrisk kategorisering har også oplysningsbestemmelser, hvor de er tilladt.

Reducér ikke dette til »mærk alle AI-assisterede dokumenter«. Afgør, hvilken bestemmelse der gælder, hvem der skal handle, og om en undtagelse er relevant. Bevar ordlyden og placeringen af meddelelser, ordningerne for mærkning af output og testresultater som evidens.

Behandl undtagelsen i artikel 6, stk. 3, som en dokumenteret vurdering

Nogle systemer i bilag III kan falde uden for højrisikoklassificeringen efter artikel 6, stk. 3. Det er ikke en generel undtagelse for værktøjer, hvor der et sted i processen indgår et menneske.

Vurderingen skal tage stilling til, om systemet udgør en væsentlig risiko for skade på sundhed, sikkerhed eller grundlæggende rettigheder, herunder om det i væsentlig grad påvirker resultatet af beslutninger. Bestemmelsen angiver omstændigheder, der vedrører snævre proceduremæssige opgaver, forbedring af en tidligere afsluttet menneskelig aktivitet, påvisning af mønstre eller afvigelser under bestemte reviewbetingelser og forberedende opgaver. For at påberåbe sig undtagelsen skal mindst én af disse betingelser være opfyldt, og det skal fastslås, at systemet ikke udgør den angivne væsentlige risiko.

En udbyder, der påberåber sig denne undtagelse, skal dokumentere vurderingen, før systemet bringes i omsætning eller ibrugtages, og håndtere den gældende registreringspligt. Afgørende er, at et system i bilag III, der foretager profilering af fysiske personer, forbliver højrisiko; det betyder ikke, at ethvert profileringssystem i enhver sammenhæng automatisk bliver højrisiko.

Evidensen bør forklare, hvilke oplysninger systemet bruger, hvordan output påvirker reviewerne, og om den angiveligt forberedende opgave afgør, hvem der får en reel behandling. Medtag observationer af workflowet og repræsentative output. En sætning om, at »et menneske træffer den endelige beslutning«, er utilstrækkelig, hvis rangordning, filtrering eller anbefalinger reelt afgør beslutningen.

Planlæg efter de aktuelle anvendelsesdatoer

Pr. kontrol den 7. oktober 2026 angiver Europa-Kommissionens aktuelle oversigt over og tidslinje for AI-forordningen følgende milepæle:

Kontrollér den ændrede lovtekst og jeres specifikke overgangsbestemmelser. Eksisterende systemer, datoer for omsætning af modeller, ændringer og særlige operatørforhold kan kræve yderligere analyse. Ældre vejledninger kan stadig vise tidligere datoer for højrisiko.

Fortolk ikke den opdaterede tidsplan for højrisiko som en udskydelse af hele forordningen. Budgettér separat for pligter, der allerede gælder, og for forberedelse til den relevante højrisikoordning. Jeres register bør angive den gældende milepæl og den kilde, der blev brugt til at fastslå den.

Gør klassificeringen til en evidensplan

Udbyderes og idriftsætteres ansvar er forskelligt. Ledelsen bør kræve en rollespecifik plan i stedet for at tildele alle forpligtelser til alle teams.

Hvis I udbyder et højrisikosystem

Højrisikokravene og udbyderpligterne omfatter risikostyring, datastyring, teknisk dokumentation, registrering, information til idriftsættere, menneskeligt tilsyn, nøjagtighed, robusthed, cybersikkerhed og kvalitetsstyring. Gældende overensstemmelsesvurdering, erklæring, mærkning, registrering, overvågning efter omsætning og hændelsesprocesser skal også planlægges.

Omsæt disse til leverancer:

• En risikovurdering for hele livscyklussen med afbødende foranstaltninger, restrisici og godkendelsesbeslutninger.
• Registreringer af dataproveniens, egnethed og kvalitet, hvor det er relevant for systemet.
• Teknisk dokumentation, der angiver formål, design, afhængigheder, begrænsninger og evalueringsmetoder.
• Testresultater knyttet til acceptkriterier og anvendelsessammenhængen.
• Instruktioner til tilsyn, der forklarer indgriben, tilsidesættelse og eskalering.
• Specifikationer for logning, overvågningsordninger og hændelsesprocedurer.
• En arbejdsplan for overensstemmelse, der angiver den gældende vej og de krævede registreringer.

Ikke alle højrisikosystemer følger den samme vurderingsvej. Budgettér ikke med en universel tredjepartsaudit, og behandl ikke en sikkerhedscertificering som bevis for overensstemmelse med AI-forordningen.

Hvis I idriftsætter et højrisikosystem

Fokusér på at drive systemet i overensstemmelse med brugsanvisningen, udpege kompetent tilsyn, overvåge anvendelsen og vedligeholde de krævede registreringer. Håndtér inputdataenes egnethed, hvor I kontrollerer disse input, og gældende krav om information til arbejdstagere eller berørte personer.

Bed leverandørerne om relevante instruktioner, begrænsninger, krav til tilsyn og oplysninger om overensstemmelse. Identificér, hvad de ikke kan levere, og hvem der skal løse den mangel. En leverandørs assurance-erklæring fastslår ikke, at jeres lokale konfiguration er passende.

Vurdér, om en konsekvensanalyse vedrørende grundlæggende rettigheder er påkrævet for jeres kategori af idriftsætter og jeres anvendelsestilfælde. Den er ikke universel for alle idriftsættelser. Hvor personoplysninger er involveret, skal kravene i databeskyttelsesforordningen (GDPR) vurderes separat; en konsekvensanalyse vedrørende databeskyttelse og en vurdering efter AI-forordningen tjener forskellige juridiske formål, selv når evidensen overlapper.

For hver leverance skal der angives ejer, reviewer, frist, kildeplacering og acceptkriterium. »Politik uploadet« er ikke det samme som »kontrol demonstreret«.

Gennemregnet eksempel: én model, to forretningsbeslutninger

Illustrative antagelser: En arbejdsgiver i EU bruger en sprogmodel fra en tredjepart til en intern skriveassistent og en separat rekrutteringsapplikation. Rekrutteringsapplikationen giver kandidater point ud fra jobkriterier og præsenterer en rangordnet shortlist. Arbejdsgiveren bruger begge internt; de præcise operatørroller kræver review.

For skriveassistenten registreres tilladte opgaver med udkast, databegrænsninger, review af output og eventuelle gældende gennemsigtighedskrav. Almindelig intern udarbejdelse af udkast bliver ikke højrisiko, blot fordi den bruger AI. En udvidelse til evaluering af medarbejdere ville udløse en fornyet vurdering.

For rekruttering er punktet om beskæftigelse i bilag III direkte relevant. Gennemgå pointgivning og profilering af kandidater, ikke kun beskrivelsen af brugergrænsefladen. Hvis rekrutteringsmedarbejderne kun overvejer ansøgere på shortlisten, former systemet i væsentlig grad adgangen til beskæftigelse. Menneskelig godkendelse af den endelige ansættelse fjerner ikke denne indflydelse.

Ledelsens beslutning er derfor forskellig for hver applikation. Skriveassistenten kan fortsætte med forholdsmæssige kontroller efter review. Rekrutteringsprojektet kræver en plan for højrisikoparathed, evidens fra leverandøren, uddannet tilsyn, evaluering af den lokale anvendelse og en dokumenteret frigivelsesbeslutning.

Hvis teamet foreslår at ændre rekrutteringsfunktionen til planlægning af samtaler i kalenderen, skal det nye formål og workflow vurderes på ny. Planlægning kan være en snæver proceduremæssig opgave, men hvis pointgivningen af kandidater bevares bag kulisserne, undergraver det den reviderede begrundelse. Versionér beslutningen i stedet for at overskrive den oprindelige registrering.

Gør ansvaret synligt i de operationelle beslutninger

Udpeg en forretningsejer, der kan forklare formålet og godkende ressourcer, en teknisk ejer, der kan dokumentere adfærden, og en juridisk reviewer eller compliance-reviewer, der kan udfordre klassificeringen. Direktionens godkendelse bør afgøre finansiering, begrænsninger for frigivelse og uafklarede risici – ikke erstatte specialistanalysen.

Som en praktisk anbefaling bør klassificeringen gennemgås, når formål, brugere, data, integrationer, autonomi eller indflydelse på væsentlige beslutninger ændrer sig. Knyt dette review til fornyelser af indkøbsaftaler og produktfrigivelser. En modelopdatering alene ændrer måske ikke klassificeringen, men den kan gøre evalueringsevidens eller driftsforudsætninger ugyldige.

Typiske fejl er at acceptere leverandørdækkende klassificeringer, at antage, at menneskeligt review automatisk skaber en undtagelse, at overse allerede gældende pligter vedrørende AI-færdigheder og gennemsigtighed og at indsamle dokumenter uden at teste den lokale drift. Et ledelsessystem efter ISO/IEC 42001 kan understøtte governance, men en certificering fastslår ikke automatisk overholdelse af AI-forordningen.

Secani kan understøtte evidensworkflowet ved at forbinde krav, kontroller, kildemateriale, ejere, opgaver og gennemgåede beslutninger. Begynd med én proces, knyt evidens til det, den beviser, og hold kommentarer, godkendelser og tidsstempler sammen med væsentlige konklusioner. Behandl AI-assisterede forslag som udkast til menneskeligt review, ikke som juridiske afgørelser. Vores vejledning i governance for AI-agenter giver praktiske kontroller for rettigheder og review.

Det næste nyttige skridt er en fokuseret klassificeringsworkshop: Vælg de mest betydningsfulde anvendelsestilfælde i drift, saml deres forretningsmæssige og tekniske ejere, og producér gennemgåede registreringer med uafklarede spørgsmål og evidensopgaver. Det giver ledelsen et forsvarligt grundlag for at afgøre, hvad der kan fortsætte, hvad der kræver betingelser, og hvad der kræver yderligere vurdering.