EU AI Act: Anwendungsfälle einstufen und Nachweise planen

KI-Governance beginnt mit dem Wissen, welche Systeme die Organisation anbietet, betreibt oder anderweitig bereitstellt. Eine Liste von Modellnamen reicht nicht aus: Die Zweckbestimmung, das Einsatzumfeld und Ihre Rolle bestimmen, welche Pflichten zu prüfen sind.

Für die Leitung ist die Einstufung ebenso eine Entscheidung über den Ressourceneinsatz wie eine rechtliche Bewertung. Sie bestimmt, welche Projekte eine fachliche Prüfung brauchen, was Lieferanten nachweisen müssen und welche Nachweise vor einer Freigabe vorliegen müssen. Ein Recruiting-Werkzeug und ein interner Schreibassistent können dasselbe Modell nutzen und dennoch sehr unterschiedliche Bewertungen erfordern.

Das nützliche Ergebnis ist ein geprüftes Register der Anwendungsfälle, das mit Verantwortlichen, Anforderungen, Nachweisen und Änderungsentscheidungen verbunden ist, nicht ein unternehmensweites Etikett „KI mit geringem Risiko“.

Anwendungsbereich und Verantwortung klären, bevor Sie Risiken zuordnen

Der EU AI Act, die Verordnung über künstliche Intelligenz (KI-Verordnung), enthält Pflichten, die von Tätigkeit, System und Akteur abhängen. Ihr räumlicher Anwendungsbereich umfasst Anbieter, die Systeme in der EU in Verkehr bringen oder in Betrieb nehmen, Betreiber, die in der EU niedergelassen sind oder sich dort befinden, sowie bestimmte Anbieter und Betreiber außerhalb der EU, wenn die Ausgaben der Systeme in der EU verwendet werden. Die Staatsangehörigkeit allein ist nicht das Kriterium.

Lassen Sie rechtlich und technisch Prüfende klären, ob die Anwendung die Definition eines KI-Systems im Sinne der Verordnung erfüllt und ob relevante Ausnahmen vom Anwendungsbereich greifen. Nehmen Sie weder an, dass jedes Automatisierungsskript KI ist, noch dass ein extern gehosteter Dienst außerhalb Ihrer Verantwortung liegt.

Dokumentieren Sie dann Ihre Rolle:

• Anbieter: entwickelt ein System oder lässt es entwickeln und bringt es unter eigenem Namen oder eigener Marke in Verkehr oder nimmt es in Betrieb.
• Betreiber: verwendet ein System in eigener Verantwortung im Rahmen einer beruflichen Tätigkeit.
• Einführer oder Händler: bringt relevante Systeme auf den EU-Markt oder stellt sie über die Lieferkette bereit, mit den damit verbundenen Prüfpflichten.
• Produkthersteller oder Bevollmächtigter: hat Verantwortlichkeiten, die sich aus der jeweiligen Produktkonstellation oder einem schriftlichen Auftrag ergeben.

Eine Organisation kann in ihrem Portfolio unterschiedliche Rollen einnehmen. Der Kauf einer API klärt nicht die Rolle für die fertige Anwendung. Eine Umfirmierung, eine wesentliche Veränderung oder die Änderung einer Zweckbestimmung kann unter den anwendbaren Voraussetzungen Anbieterpflichten auslösen. Fine-Tuning ist daher ein Anlass für eine Überprüfung, keine automatische rechtliche Schlussfolgerung.

Unterscheiden Sie das KI-Modell mit allgemeinem Verwendungszweck von dem darauf aufbauenden System. Pflichten der Modellanbieter und Pflichten für nachgelagerte Systeme hängen zusammen, sind aber nicht austauschbar.

Ein Inventar der Anwendungsfälle aufbauen, das Entscheidungen unterstützt

Inventarisieren Sie Geschäftsfunktionen, nicht nur Anbieter. Befragen Sie Einkauf, Personalwesen, Produkt, Betrieb und IT: KI kann über eine neue Funktion eines bestehenden Lieferanten ins Haus kommen statt über einen eigenen Kauf.

Erfassen Sie für jeden Anwendungsfall:

Erfassen Sie tatsächliche Arbeitsabläufe neben der Zweckbestimmung. Ein als „Unterstützung für Recruiter“ beschriebenes Werkzeug kann faktisch Bewerbende ausschließen, wenn das Personal nur die Vorauswahlliste ansieht. Eine schriftliche Richtlinie, die eine menschliche Prüfung verlangt, belegt nicht, dass diese Prüfung stattfindet.

Das Ergebnis ist eine versionierte Dokumentation je Anwendungsfall. Ungeklärte Einstufungen sollten sichtbar ungeklärt bleiben, mit einer verantwortlichen Person und einer Entscheidungsfrist, statt standardmäßig in die am wenigsten anspruchsvolle Kategorie zu fallen.

Verbote, Hochrisiko-Wege und Transparenz getrennt bewerten

Die bekannte Beschreibung mit vier Stufen (verboten, hohes Risiko, transparenzbezogen und geringeres Risiko) ist eine nützliche Einführung. Sie ist aber kein vollständiger Entscheidungsbaum. Transparenzpflichten können sich mit Hochrisiko-Pflichten überschneiden, und die Pflichten zur KI-Kompetenz sind nicht auf Hochrisiko-Systeme beschränkt.

Zuerst verbotene Praktiken prüfen

Artikel 5 verbietet bestimmte Praktiken, vorbehaltlich der detaillierten Voraussetzungen und Ausnahmen der Vorschrift. Relevante Prüffragen sind, ob ein System schädliche Manipulation einsetzt oder Schutzbedürftigkeit ausnutzt, verbotenes Social Scoring betreibt, Gesichtserkennungsdatenbanken durch ungezieltes Auslesen aufbaut oder eine verbotene biometrische Kategorisierung vornimmt.

KI-gestützte Ableitung von Emotionen aus biometrischen Daten am Arbeitsplatz und in Bildungseinrichtungen ist ebenfalls verboten, außer aus bestimmten medizinischen oder sicherheitsbezogenen Gründen. Eine reine Textstimmungsanalyse fällt nicht schon deshalb unter dieses Verbot, weil sie den emotionalen Ton bewertet. Für bestimmte biometrische Anwendungen der Strafverfolgung gelten eng begrenzte Regeln; „jede Gesichtserkennung ist verboten“ ist kein zutreffender Ersatz für eine Bewertung.

Eskalieren Sie eine möglicherweise verbotene Praxis vor Beschaffung oder Einsatz. Die Nachweise sollten die Funktionalität und die rechtliche Begründung beschreiben, nicht bloß die Aussage eines Lieferanten zu „ethischer KI“ wiederholen.

Beide Wege zur Hochrisiko-Einstufung prüfen

Der Weg über regulierte Produkte, Artikel 6 Absatz 1: Prüfen Sie, ob die KI selbst ein Produkt oder eine Sicherheitskomponente eines Produkts ist, das unter die einschlägigen Rechtsvorschriften in Anhang I fällt, und ob dieses Produkt einer Konformitätsbewertung durch Dritte unterliegt. Beide Voraussetzungen sind maßgeblich. Nutzen Sie den geänderten Rechtstext für das konkrete Produktregime; das Einbetten von KI begründet für sich genommen keinen Hochrisiko-Status.

Der Weg über Anhang III, Artikel 6 Absatz 2: Prüfen Sie, ob die beabsichtigte Funktion einem dort aufgeführten Anwendungsfall entspricht. Die acht Bereiche sind weit gefasste Überschriften, keine Regeln, die jede Anwendung in einer Branche zu einem Hochrisiko-System machen.

Lesen Sie die detaillierten Einträge und Ausnahmen. So wird etwa die Aufdeckung von Finanzbetrug von der aufgeführten Bewertung der Kreditwürdigkeit unterschieden, und die Überprüfung von Reisedokumenten ist vom einschlägigen Eintrag zur Identifizierung im Migrationsbereich ausgenommen. Die administrative Organisation von Kampagnen ist nicht gleichbedeutend mit der Beeinflussung von Wählenden.

Transparenz auch dann bewerten, wenn Hochrisiko-Regeln nicht gelten

Artikel 50 betrifft bestimmte Interaktionen und Ausgaben. Je nach Rolle und Umständen geht es darum, Personen darüber zu informieren, dass sie mit KI interagieren, synthetische Ausgaben maschinenlesbar zu kennzeichnen, Deepfakes offenzulegen und bestimmte KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse kenntlich zu machen. Für Emotionserkennung und biometrische Kategorisierung gelten, soweit zulässig, ebenfalls Offenlegungsvorschriften.

Verkürzen Sie das nicht auf „jedes KI-gestützte Dokument kennzeichnen“. Bestimmen Sie, welche Vorschrift gilt, wer handeln muss und ob eine Ausnahme relevant ist. Bewahren Sie Hinweistexte, Platzierung, Regelungen zur Kennzeichnung von Ausgaben und Testergebnisse als Nachweise auf.

Die Ausnahme nach Artikel 6 Absatz 3 als dokumentierte Bewertung behandeln

Manche Systeme aus Anhang III können nach Artikel 6 Absatz 3 aus der Hochrisiko-Einstufung herausfallen. Das ist keine allgemeine Ausnahme für Werkzeuge, bei denen irgendwo im Prozess ein Mensch beteiligt ist.

Die Bewertung muss klären, ob das System ein erhebliches Risiko der Beeinträchtigung von Gesundheit, Sicherheit oder Grundrechten birgt, einschließlich der Frage, ob es das Ergebnis von Entscheidungen wesentlich beeinflusst. Die Vorschrift nennt Konstellationen mit eng gefassten Verfahrensaufgaben, der Verbesserung des Ergebnisses einer zuvor abgeschlossenen menschlichen Tätigkeit, der Erkennung von Entscheidungsmustern oder Abweichungen unter bestimmten Prüfbedingungen sowie vorbereitenden Aufgaben. Wer sich auf die Ausnahme stützt, muss mindestens eine dieser Voraussetzungen erfüllen und belegen, dass das System das genannte erhebliche Risiko nicht birgt.

Ein Anbieter, der sich auf diese Ausnahme stützt, muss die Bewertung dokumentieren, bevor er das System in Verkehr bringt oder in Betrieb nimmt, und die anwendbare Registrierungspflicht erfüllen. Entscheidend ist: Ein System aus Anhang III, das ein Profiling natürlicher Personen vornimmt, bleibt ein Hochrisiko-System; das bedeutet nicht, dass jedes Profiling-System in jedem Kontext automatisch hochriskant wird.

Die Nachweise sollten erklären, welche Informationen das System nutzt, wie Ausgaben die Prüfenden beeinflussen und ob die angeblich vorbereitende Aufgabe darüber entscheidet, wer inhaltlich berücksichtigt wird. Nehmen Sie Beobachtungen zum Arbeitsablauf und repräsentative Ausgaben auf. Der Satz „Ein Mensch trifft die endgültige Entscheidung“ reicht nicht, wenn Rangfolgen, Filter oder Empfehlungen diese Entscheidung faktisch bestimmen.

Anhand der aktuellen Geltungstermine planen

Mit Prüfstand 7. Oktober 2026 nennt die aktuelle Übersicht und Zeitleiste der Europäischen Kommission zur KI-Verordnung folgende Meilensteine:

Prüfen Sie den geänderten Rechtstext und die für Sie maßgeblichen Übergangsbestimmungen. Bestehende Systeme, Zeitpunkte des Inverkehrbringens von Modellen, Änderungen und besondere Konstellationen von Akteuren können zusätzliche Analysen erfordern. Ältere Leitfäden zeigen möglicherweise noch frühere Hochrisiko-Termine.

Verstehen Sie den aktualisierten Hochrisiko-Zeitplan nicht als Verschiebung der gesamten Verordnung. Planen Sie getrennte Budgets für bereits geltende Pflichten und für die Vorbereitung auf das einschlägige Hochrisiko-Regime. Ihr Register sollte den anwendbaren Meilenstein und die Quelle benennen, auf die er sich stützt.

Die Einstufung in einen Nachweisplan übersetzen

Die Verantwortlichkeiten von Anbietern und Betreibern unterscheiden sich. Die Leitung sollte einen rollenspezifischen Plan verlangen, statt jede Pflicht jedem Team zuzuweisen.

Wenn Sie ein Hochrisiko-System anbieten

Die Hochrisiko-Anforderungen und Anbieterpflichten umfassen Risikomanagement, Daten-Governance, technische Dokumentation, Aufzeichnungspflichten, Informationen für Betreiber, menschliche Aufsicht, Genauigkeit, Robustheit, Cybersicherheit und Qualitätsmanagement. Auch die anwendbare Konformitätsbewertung, die Erklärung, die Kennzeichnung, die Registrierung, die Beobachtung nach dem Inverkehrbringen und Prozesse für Vorfälle müssen geplant werden.

Übersetzen Sie diese in Ergebnisse:

• Eine Risikobewertung über den Lebenszyklus mit Abhilfemaßnahmen, Restrisiken und Freigabeentscheidungen.
• Aufzeichnungen zu Herkunft, Eignung und Qualität der Daten, soweit für das System relevant.
• Technische Dokumentation, die Zweck, Design, Abhängigkeiten, Grenzen und Bewertungsmethoden benennt.
• Testergebnisse, die an Abnahmekriterien und den Einsatzkontext gebunden sind.
• Anweisungen zur Aufsicht, die Eingreifen, Übersteuern und Eskalation erklären.
• Spezifikationen zur Protokollierung, Überwachungsregelungen und Verfahren für Vorfälle.
• Einen Arbeitsplan zur Konformität, der das anwendbare Verfahren und die erforderlichen Aufzeichnungen benennt.

Nicht jedes Hochrisiko-System folgt demselben Bewertungsverfahren. Planen Sie kein Budget für ein allgemeingültiges Audit durch Dritte ein und betrachten Sie eine Sicherheitszertifizierung nicht als Nachweis der Konformität mit der KI-Verordnung.

Wenn Sie ein Hochrisiko-System betreiben

Konzentrieren Sie sich darauf, das System gemäß den Anweisungen zu betreiben, kompetente Aufsicht zuzuweisen, seine Verwendung zu überwachen und die erforderlichen Aufzeichnungen zu führen. Behandeln Sie die Eignung der Eingabedaten, soweit Sie diese Eingaben kontrollieren, sowie anwendbare Anforderungen zur Information von Beschäftigten oder betroffenen Personen.

Fordern Sie bei Lieferanten relevante Anweisungen, Grenzen, Anforderungen an die Aufsicht und Konformitätsinformationen an. Ermitteln Sie, was sie nicht liefern können und wer die Lücke schließt. Eine Zusicherung des Lieferanten belegt nicht, dass Ihre lokale Konfiguration angemessen ist.

Prüfen Sie, ob für Ihre Betreiberkategorie und Ihren Anwendungsfall eine Grundrechte-Folgenabschätzung erforderlich ist. Sie gilt nicht für jeden Einsatz. Sind personenbezogene Daten betroffen, bewerten Sie die Anforderungen der DSGVO gesondert; eine Datenschutz-Folgenabschätzung und eine Bewertung nach der KI-Verordnung dienen unterschiedlichen rechtlichen Zwecken, auch wenn sich Nachweise überschneiden.

Legen Sie für jedes Ergebnis eine verantwortliche Person, eine prüfende Person, ein Fälligkeitsdatum, den Ablageort der Quelle und ein Abnahmekriterium fest. „Richtlinie hochgeladen“ ist nicht gleichbedeutend mit „Maßnahme nachgewiesen“.

Praxisbeispiel: ein Modell, zwei geschäftliche Entscheidungen

Veranschaulichende Annahmen: Ein Arbeitgeber in der EU nutzt ein Sprachmodell eines Drittanbieters für einen internen Schreibassistenten und eine separate Recruiting-Anwendung. Die Recruiting-Anwendung bewertet Bewerbende anhand von Stellenkriterien und zeigt eine sortierte Vorauswahlliste. Der Arbeitgeber nutzt beide intern; seine genauen Rollen als Akteur müssen geprüft werden.

Dokumentieren Sie für den Schreibassistenten zulässige Entwurfsaufgaben, Datenbeschränkungen, die Prüfung der Ausgaben und etwaige anwendbare Transparenzanforderungen. Gewöhnliches internes Entwerfen von Texten wird nicht schon dadurch hochriskant, dass KI eingesetzt wird. Eine Ausweitung auf die Bewertung von Beschäftigten würde eine Neubewertung auslösen.

Für das Recruiting ist der Eintrag zur Beschäftigung in Anhang III unmittelbar relevant. Prüfen Sie die Bewertung und das Profiling der Bewerbenden, nicht nur die Beschreibung der Benutzeroberfläche. Berücksichtigen Recruiter nur Bewerbende aus der Vorauswahl, prägt das System den Zugang zur Beschäftigung wesentlich. Die menschliche Freigabe der endgültigen Einstellung beseitigt diesen Einfluss nicht.

Die Entscheidung der Leitung fällt daher für jede Anwendung anders aus. Der Schreibassistent kann nach der Prüfung mit verhältnismäßigen Maßnahmen weitergeführt werden. Das Recruiting-Projekt braucht einen Plan zur Vorbereitung auf die Hochrisiko-Anforderungen, Nachweise des Lieferanten, geschulte Aufsicht, eine Bewertung der lokalen Nutzung und eine dokumentierte Freigabeentscheidung.

Schlägt das Team vor, die Recruiting-Funktion auf die Terminplanung von Vorstellungsgesprächen umzustellen, bewerten Sie diesen neuen Zweck und Arbeitsablauf neu. Die Terminplanung kann eine eng gefasste Verfahrensaufgabe sein, doch eine im Hintergrund fortbestehende Bewertung der Bewerbenden würde die überarbeitete Begründung untergraben. Versionieren Sie die Entscheidung, statt die ursprüngliche Dokumentation zu überschreiben.

Verantwortung in betrieblichen Entscheidungen sichtbar machen

Benennen Sie eine fachlich verantwortliche Person, die den Zweck erklären und Ressourcen genehmigen kann, eine technisch verantwortliche Person, die das Verhalten belegen kann, und eine prüfende Person aus Recht oder Compliance, die die Einstufung hinterfragen kann. Die Freigabe durch die Geschäftsleitung sollte über Finanzierung, Freigabebeschränkungen und offene Risiken entscheiden, nicht die fachliche Analyse ersetzen.

Überprüfen Sie als praktische Empfehlung die Einstufung, wenn sich Zweck, Nutzende, Daten, Integrationen, Autonomie oder ein folgenreicher Einfluss auf Entscheidungen ändern. Verbinden Sie diese Überprüfung mit Vertragsverlängerungen im Einkauf und mit Produkt-Releases. Ein Modell-Update allein ändert die Einstufung möglicherweise nicht, kann aber Bewertungsnachweise oder Betriebsannahmen hinfällig machen.

Häufige Fehler sind, anbieterweite Einstufungen zu übernehmen, anzunehmen, dass eine menschliche Prüfung automatisch eine Ausnahme begründet, bereits geltende Pflichten zu KI-Kompetenz und Transparenz zu übersehen und Dokumente zu sammeln, ohne den lokalen Betrieb zu testen. Ein Managementsystem nach ISO/IEC 42001 kann die Governance unterstützen, doch eine Zertifizierung belegt nicht automatisch die Einhaltung der KI-Verordnung.

Secani kann den Nachweisablauf unterstützen, indem es Anforderungen, Maßnahmen, Quellmaterial, Verantwortliche, Aufgaben und geprüfte Entscheidungen verbindet. Beginnen Sie mit einem Prozess, hängen Sie Nachweise an das an, was sie belegen, und halten Sie Kommentare, Freigaben und Zeitstempel bei wesentlichen Schlussfolgerungen fest. Behandeln Sie KI-gestützte Vorschläge als Entwürfe zur menschlichen Prüfung, nicht als rechtliche Feststellungen. Unser Leitfaden zur Steuerung von KI-Agenten bietet praktische Maßnahmen für Berechtigungen und Prüfungen.

Der nächste sinnvolle Schritt ist ein fokussierter Einstufungsworkshop: Wählen Sie die folgenreichsten produktiven Anwendungsfälle aus, holen Sie deren fachlich und technisch Verantwortliche dazu und erstellen Sie geprüfte Dokumentationen mit offenen Fragen und Nachweisaufgaben. Das gibt der Leitung eine belastbare Grundlage für die Entscheidung, was weitergehen kann, was Bedingungen braucht und was eine weitere Bewertung erfordert.