EU AI Act: classificeer uw toepassingen en plan het bewijs

AI-governance begint met weten welke systemen de organisatie aanbiedt, inzet of op een andere manier beschikbaar stelt. Een lijst met modelnamen is niet genoeg: het beoogde doel, de context van de inzet en uw rol bepalen welke verplichtingen moeten worden onderzocht.

Voor het management is classificatie zowel een beslissing over de inzet van middelen als een juridische beoordeling. Zij bepaalt welke projecten een review door specialisten nodig hebben, wat leveranciers moeten aantonen en welk bewijs er vóór een release moet zijn. Een recruitmenttool en een interne schrijfassistent kunnen hetzelfde model gebruiken en toch heel verschillende beoordelingen vereisen.

Het nuttige resultaat is een gereviewd register van toepassingen dat is verbonden met eigenaren, eisen, bewijs en wijzigingsbeslissingen, niet een bedrijfsbreed label met ‘AI met een laag risico’.

Stel scope en verantwoordelijkheid vast voordat u een risico toekent

De Europese AI-verordening (EU AI Act) is een verordening waarvan de verplichtingen afhangen van de activiteit, het systeem en de operator. Het territoriale toepassingsgebied omvat aanbieders die systemen in de EU in de handel brengen of in gebruik stellen, gebruiksverantwoordelijken die in de EU zijn gevestigd of zich daar bevinden, en bepaalde aanbieders en gebruiksverantwoordelijken buiten de EU wanneer de output van systemen in de EU wordt gebruikt. Nationaliteit alleen is niet het criterium.

Laat juridische en technische reviewers vaststellen of de toepassing voldoet aan de definitie van een AI-systeem in de verordening en of er relevante uitzonderingen op het toepassingsgebied gelden. Ga er niet van uit dat elk automatiseringsscript AI is, of dat een extern gehoste dienst buiten uw verantwoordelijkheden valt.

Leg vervolgens uw rol vast:

• Aanbieder: ontwikkelt een systeem of laat het ontwikkelen en brengt het onder eigen naam of merk in de handel of stelt het in gebruik.
• Gebruiksverantwoordelijke: gebruikt een systeem onder eigen verantwoordelijkheid in een professionele context.
• Importeur of distributeur: brengt relevante systemen op de EU-markt of stelt ze via de toeleveringsketen beschikbaar, met bijbehorende verificatieplichten.
• Productfabrikant of gemachtigde: heeft verantwoordelijkheden die voortvloeien uit de specifieke productregeling of een schriftelijk mandaat.

Een organisatie kan binnen haar portfolio verschillende rollen vervullen. Het afnemen van een API bepaalt nog niet de rol voor de afgewerkte applicatie. Het onder een eigen merk brengen, een substantiële wijziging of het veranderen van een beoogd doel kan onder de toepasselijke voorwaarden verantwoordelijkheden van een aanbieder met zich meebrengen. Fine-tuning is daarom een aanleiding voor review, geen automatische juridische conclusie.

Maak onderscheid tussen het AI-model voor algemene doeleinden en het systeem dat eromheen is gebouwd. Verplichtingen voor modelaanbieders en verplichtingen voor systemen verderop in de keten zijn verwant, maar niet onderling uitwisselbaar.

Bouw een register van toepassingen dat beslissingen ondersteunt

Inventariseer bedrijfsfuncties, niet alleen leveranciers. Interview inkoop, HR, product, operations en IT: AI kan binnenkomen via een nieuwe functie van een bestaande leverancier in plaats van via een specifieke aankoop.

Leg voor elke toepassing het volgende vast:

Leg naast het beoogde doel ook de werkelijke workflows vast. Een tool die wordt omschreven als ‘ondersteuning voor recruiters’ kan in feite kandidaten uitsluiten als medewerkers alleen de shortlist ervan bekijken. Een schriftelijk beleid dat menselijke review vereist, bewijst niet dat die review plaatsvindt.

Het resultaat is een geversioneerd dossier per toepassing. Onopgeloste classificaties moeten zichtbaar onopgelost blijven, met een eigenaar en een beslistermijn, in plaats van standaard in de minst veeleisende categorie te belanden.

Beoordeel verboden, routes naar hoog risico en transparantie afzonderlijk

De bekende indeling in vier niveaus (verboden, hoog risico, transparantieverplichtingen en lager risico) is een nuttige introductie. Het is geen volledige beslisboom. Transparantieplichten kunnen samenvallen met verplichtingen voor hoog risico, en de verplichtingen rond AI-geletterdheid zijn niet beperkt tot systemen met een hoog risico.

Toets eerst op verboden praktijken

Artikel 5 verbiedt bepaalde praktijken, met inachtneming van de gedetailleerde voorwaarden en uitzonderingen van die bepaling. Relevante toetsvragen zijn onder meer of een systeem schadelijke manipulatie toepast of kwetsbaarheden uitbuit, verboden sociale scoring uitvoert, databanken voor gezichtsherkenning aanlegt door ongerichte scraping, of verboden biometrische categorisering uitvoert.

Het op AI gebaseerd afleiden van emoties uit biometrische gegevens op de werkplek en in onderwijsinstellingen is eveneens verboden, behalve om bepaalde medische of veiligheidsredenen. Sentimentanalyse van uitsluitend tekst valt niet onder dit verbod alleen omdat zij de emotionele toon beoordeelt. Voor bepaalde biometrische toepassingen bij rechtshandhaving gelden strikt afgebakende regels; ‘alle gezichtsherkenning is verboden’ is geen juiste vervanging voor een beoordeling.

Escaleer een mogelijk verboden praktijk vóór de inkoop of inzet. Het bewijs moet de functionaliteit en de juridische redenering beschrijven, niet alleen de verklaring van een leverancier over ‘ethische AI’ herhalen.

Toets beide routes naar een classificatie als hoog risico

De route via gereguleerde producten, artikel 6, lid 1: onderzoek of de AI zelf een product is, of een veiligheidscomponent van een product, dat onder de relevante wetgeving in bijlage I valt, en of dat product een conformiteitsbeoordeling door een derde partij vereist. Beide voorwaarden doen ertoe. Gebruik de gewijzigde wettekst voor het specifieke productregime; het inbouwen van AI stelt op zichzelf nog geen hoog risico vast.

De route via bijlage III, artikel 6, lid 2: onderzoek of de beoogde functie overeenkomt met een vermelde toepassing. De acht gebieden zijn brede rubrieken, geen regels die elke toepassing in een sector tot hoog risico maken.

Lees de gedetailleerde vermeldingen en uitzonderingen. Zo wordt opsporing van financiële fraude onderscheiden van de vermelde toepassing voor kredietwaardigheid, en is verificatie van reisdocumenten uitgezonderd van de relevante vermelding over identificatie bij migratie. Het administratief organiseren van campagnes staat niet gelijk aan het beïnvloeden van kiezers.

Beoordeel transparantie, ook als de regels voor hoog risico niet gelden

Artikel 50 gaat over bepaalde interacties en outputs. Afhankelijk van de rol en de omstandigheden betreffen de verplichtingen het informeren van mensen dat zij met AI communiceren, de machineleesbare markering van synthetische output, openbaarmaking bij deepfakes en bepaalde door AI gegenereerde tekst over aangelegenheden van algemeen belang. Ook voor toepassingen van emotieherkenning en biometrische categorisering gelden, waar toegestaan, informatieplichten.

Breng dit niet terug tot ‘elk AI-ondersteund document labelen’. Bepaal welke bepaling van toepassing is, wie moet handelen en of een uitzondering relevant is. Bewaar de formulering en plaatsing van mededelingen, de regelingen voor het markeren van output en testresultaten als bewijs.

Behandel de uitzondering van artikel 6, lid 3, als een gedocumenteerde beoordeling

Sommige systemen uit bijlage III kunnen op grond van artikel 6, lid 3, buiten de classificatie als hoog risico vallen. Dit is geen algemene vrijstelling voor tools waarbij ergens in het proces een mens betrokken is.

De beoordeling moet ingaan op de vraag of het systeem een significant risico op schade voor de gezondheid, veiligheid of grondrechten inhoudt, onder meer door de uitkomst van beslissingen wezenlijk te beïnvloeden. De bepaling noemt omstandigheden met betrekking tot beperkte procedurele taken, verbetering van het resultaat van een eerder afgeronde menselijke activiteit, het opsporen van patronen of afwijkingen onder bepaalde reviewvoorwaarden, en voorbereidende taken. Een beroep op de uitzondering vereist dat aan ten minste één van deze voorwaarden wordt voldaan en dat wordt vastgesteld dat het systeem niet het bedoelde significante risico inhoudt.

Een aanbieder die zich op deze uitzondering beroept, moet de beoordeling documenteren voordat hij het systeem in de handel brengt of in gebruik stelt, en moet voldoen aan de toepasselijke registratieplicht. Cruciaal is dat een systeem uit bijlage III dat profilering van natuurlijke personen uitvoert altijd een hoog risico blijft; dat betekent niet dat elk profileringssysteem in elke context automatisch een hoog risico wordt.

Het bewijs moet uitleggen welke informatie het systeem gebruikt, hoe de output reviewers beïnvloedt en of de zogenaamd voorbereidende taak bepaalt wie inhoudelijk in overweging wordt genomen. Neem observaties van de workflow en representatieve outputs op. De zin ‘een mens neemt de uiteindelijke beslissing’ is ontoereikend als rangschikken, filteren of aanbevelingen die beslissing in feite bepalen.

Plan op basis van de actuele toepassingsdata

Volgens een controle op 7 oktober 2026 noemt het actuele overzicht en tijdschema van de Europese Commissie voor de AI-verordening de volgende mijlpalen:

Controleer de gewijzigde wettekst en de overgangsbepalingen die voor u gelden. Bestaande systemen, de data waarop modellen in de handel zijn gebracht, wijzigingen en specifieke regelingen voor operators kunnen aanvullende analyse vereisen. Oudere handleidingen kunnen nog eerdere data voor hoog risico tonen.

Interpreteer het bijgewerkte tijdschema voor hoog risico niet als uitstel van de hele verordening. Budgetteer afzonderlijk voor plichten die al gelden en voor de voorbereiding op het relevante regime voor hoog risico. Uw register moet de toepasselijke mijlpaal en de bron waarmee die is vastgesteld vermelden.

Zet classificatie om in een bewijsplan

De verantwoordelijkheden van aanbieders en gebruiksverantwoordelijken verschillen. Het management moet een rolspecifiek plan eisen in plaats van elke verplichting aan elk team toe te wijzen.

Als u een systeem met een hoog risico aanbiedt

De eisen voor hoog risico en de plichten van aanbieders omvatten risicobeheer, datagovernance, technische documentatie, registratie van gebeurtenissen, informatie voor gebruiksverantwoordelijken, menselijk toezicht, nauwkeurigheid, robuustheid, cyberbeveiliging en kwaliteitsbeheer. Ook de toepasselijke conformiteitsbeoordeling, verklaring, markering, registratie, monitoring na het in de handel brengen en incidentprocessen moeten worden gepland.

Vertaal deze naar resultaten:

• Een risicobeoordeling over de hele levenscyclus met mitigerende maatregelen, restrisico's en goedkeuringsbeslissingen.
• Registraties van herkomst, geschiktheid en kwaliteit van gegevens, waar relevant voor het systeem.
• Technische documentatie die doel, ontwerp, afhankelijkheden, beperkingen en evaluatiemethoden beschrijft.
• Testresultaten die zijn gekoppeld aan acceptatiecriteria en de context van de inzet.
• Instructies voor toezicht die ingrijpen, overrulen en escalatie uitleggen.
• Specificaties voor logging, monitoringafspraken en incidentprocedures.
• Een werkplan voor conformiteit dat de toepasselijke route en de vereiste registraties benoemt.

Niet elk systeem met een hoog risico volgt dezelfde beoordelingsroute. Budgetteer niet voor een universele audit door een derde partij en beschouw een beveiligingscertificering niet als bewijs van conformiteit met de AI-verordening.

Als u een systeem met een hoog risico inzet

Richt u op het gebruik van het systeem volgens de instructies, het toewijzen van competent toezicht, het monitoren van het gebruik en het bijhouden van de vereiste registraties. Zorg voor geschikte inputgegevens waar u die inputs beheerst, en voldoe aan toepasselijke eisen rond informatie aan werknemers of betrokken personen.

Vraag leveranciers om relevante instructies, beperkingen, eisen aan het toezicht en conformiteitsinformatie. Bepaal wat zij niet kunnen leveren en wie de lacune oplost. Een assurance-verklaring van een leverancier stelt niet vast dat uw lokale configuratie passend is.

Beoordeel of een effectbeoordeling op het gebied van grondrechten vereist is voor uw categorie gebruiksverantwoordelijke en uw toepassing. Die is niet voor elke inzet verplicht. Beoordeel de eisen van de AVG afzonderlijk wanneer er persoonsgegevens bij betrokken zijn; een gegevensbeschermingseffectbeoordeling (DPIA) en een beoordeling onder de AI-verordening dienen verschillende juridische doelen, ook als het bewijs overlapt.

Leg voor elk resultaat een eigenaar, reviewer, vervaldatum, bronlocatie en acceptatiecriterium vast. ‘Beleid geüpload’ staat niet gelijk aan ‘control aangetoond’.

Uitgewerkt voorbeeld: één model, twee bedrijfsbeslissingen

Illustratieve aannames: een werkgever in de EU gebruikt een taalmodel van een derde partij voor een interne schrijfassistent en voor een afzonderlijke recruitmentapplicatie. De recruitmentapplicatie scoort kandidaten op functiecriteria en presenteert een gerangschikte shortlist. De werkgever gebruikt beide intern; zijn precieze rollen als operator moeten worden gereviewd.

Leg voor de schrijfassistent de toegestane schrijftaken, gegevensbeperkingen, review van de output en eventuele toepasselijke transparantie-eisen vast. Gewoon intern schrijfwerk wordt niet hoog risico alleen omdat er AI wordt gebruikt. Uitbreiding naar de beoordeling van medewerkers of kandidaten zou een herbeoordeling vereisen.

Voor recruitment is de vermelding over werkgelegenheid in bijlage III direct relevant. Review het scoren en profileren van kandidaten, niet alleen de beschrijving van de interface. Als recruiters alleen kandidaten van de shortlist bekijken, bepaalt het systeem in wezenlijke mate de toegang tot werk. Menselijke goedkeuring van de uiteindelijke aanstelling neemt die invloed niet weg.

De beslissing van het management is daarom per applicatie anders. De schrijfassistent kan na review doorgaan met proportionele controls. Het recruitmentproject heeft een plan nodig om gereed te zijn voor hoog risico, bewijs van de leverancier, getraind toezicht, een evaluatie van het lokale gebruik en een gedocumenteerde releasebeslissing.

Als het team voorstelt de recruitmentfunctie te veranderen in het plannen van gesprekken in de agenda, beoordeel dat nieuwe doel en die nieuwe workflow dan opnieuw. Plannen kan een beperkte procedurele taak zijn, maar het achter de schermen behouden van het scoren van kandidaten zou de herziene onderbouwing ondermijnen. Versioneer de beslissing in plaats van het oorspronkelijke dossier te overschrijven.

Maak verantwoordelijkheid zichtbaar in operationele beslissingen

Wijs een bedrijfseigenaar aan die het doel kan uitleggen en middelen kan goedkeuren, een technisch eigenaar die het gedrag kan onderbouwen en een juridisch of compliance-reviewer die de classificatie ter discussie kan stellen. Goedkeuring door de directie moet financiering, releasebeperkingen en onopgelost risico afhandelen, niet de analyse van specialisten vervangen.

Een praktische aanbeveling is om de classificatie te herzien wanneer doel, gebruikers, gegevens, integraties, autonomie of de invloed op beslissingen met gevolgen verandert. Verbind die review met verlengingen van inkoopcontracten en productreleases. Een modelupdate alleen verandert de classificatie misschien niet, maar kan evaluatiebewijs of operationele aannames ongeldig maken.

Veelgemaakte fouten zijn onder meer het overnemen van classificaties die een leverancier voor al zijn klanten hanteert, de aanname dat menselijke review automatisch een uitzondering oplevert, het over het hoofd zien van al geldende plichten rond geletterdheid en transparantie, en het verzamelen van documenten zonder het lokale gebruik te testen. Een managementsysteem volgens ISO/IEC 42001 kan governance ondersteunen, maar certificering stelt niet automatisch naleving van de AI-verordening vast.

Secani kan de bewijsworkflow ondersteunen door eisen, controls, bronmateriaal, eigenaren, taken en gereviewde beslissingen met elkaar te verbinden. Begin met één proces, koppel bewijs aan wat het aantoont en bewaar opmerkingen, goedkeuringen en tijdstempels bij wezenlijke conclusies. Behandel AI-ondersteunde suggesties als concepten voor menselijke review, niet als juridische vaststellingen. Onze gids voor de governance van AI-agents biedt praktische controls voor rechten en review.

De nuttige volgende stap is een gerichte classificatieworkshop: kies de live toepassingen met de meeste gevolgen, breng de bedrijfs- en technische eigenaren bijeen en stel gereviewde dossiers op met openstaande vragen en bewijstaken. Dat geeft het management een verdedigbare basis om te beslissen wat door kan gaan, wat voorwaarden nodig heeft en wat verdere beoordeling vereist.