Hochrisiko-KI-Systeme nach der KI-Verordnung: Zeitliche Verschiebungen und erste Konkretisierungen

Nachdem wir in unserem letzten KI-Flash über die Haftung für irreführende Aussagen eines KI-Chatbots berichtet haben, möchten wir Ihnen auch weiterhin in regelmäßigen Abständen rechtliche Impulse mit auf den Weg geben. 

Im heutigen KI-Flash möchten wir – aufgrund aktueller Entwicklungen auf europäischer Ebene – die Thematik der Hochrisiko-KI-Systeme näher in den Blick nehmen. Die Europäische Kommission hat am 19. Mai 2026 ein Konsultationsverfahren gestartet und hierbei drei Entwürfe für Leitlinien zur Klassifizierung von Hochrisiko-KI-Systemen veröffentlicht. Die Entwürfe konkretisieren erstmals auf diesem Detailgrad die wohl folgenreichste Frage der KI-Verordnung (KI-VO): Wann gilt ein KI-System als hochriskant – und wann nicht?

Aufgrund der Vielschichtigkeit der Thematik – auch mit Blick auf die unterschiedlichen Arten von Hochrisiko-KI-Systemen – werden wir unsere Anmerkungen zu den Leitlinien-Entwürfen auf mehrere KI-Flashs aufteilen. Der vorliegende Beitrag soll hierbei einen ersten Überblick verschaffen, sodass wir in weiteren KI-Flashs auf Einzelheiten eingehen können.

Zeitlicher Rahmen: Was der KI-Omnibus geändert hat

Bevor man jedoch in die inhaltliche Klassifizierungsfrage einsteigt, ist der zeitliche Rahmen entscheidend. Mit der vorläufigen Trilog-Einigung zum sogenannten „Digital Omnibus on AI“ am 7. Mai 2026 haben Europäisches Parlament und Rat die Anwendungsfristen für Hochrisiko-KI-Systeme substanziell verschoben:

• KI-Systeme als Sicherheitskomponenten in regulierten Produkten nach Anhang I der KI-VO (u.a. KI in Medizinprodukten, Aufzügen, Spielzeug).

  Verschiebung: 02.08.2027 → 02.08.2028 (+12 Monate)

• Eigenständige Hochrisiko-KI-Systeme nach Anhang III der KI-VO (u.a. KI im HR-Bereich und in kritischer Infrastruktur).

  Verschiebung: 02.08.2026 → 02.12.2027 (+16 Monate)

Auch wenn die Trilog-Einigung noch keine veröffentlichte Rechtsvorschrift darstellt und bis zur formellen Verabschiedung noch die „alten“ Fristen gelten, ist mit einer formellen (rechtzeitigen) Verabschiedung mit aller Wahrscheinlichkeit zu rechnen.

Vor diesem Hintergrund sind die jetzt veröffentlichten Leitlinien-Entwürfe ein wichtiges Instrument für Unternehmen. Sie bieten die Möglichkeit, den gewonnenen zeitlichen Puffer für eine strukturierte und inhaltlich fundierte Vorbereitung zu nutzen und erstmals auf offizieller Basis zu bewerten, ob und inwieweit KI-Systeme künftig von der Hochrisiko-Klassifizierung betroffen sind bzw. betroffen sein können.

Die zwei Klassifizierungswege nach Art. 6 KI-VO

Art. 6 KI-VO kennt zwei voneinander unabhängige Wege in die Hochrisiko-Klassifizierung:

Anhang I (Produktsicherheit): Ein KI-System ist zunächst dann hochriskant, wenn es selbst ein reguliertes Produkt ist oder als Sicherheitskomponente in einem solchen eingesetzt wird, das unter bestimmtes EU-Harmonisierungsrecht fällt und wenn das Produkt einer Drittkonformitätsbewertung bedarf. 

Relevant ist dies vor allem für KI in Medizinprodukten, Spielzeug, Fahrzeugen und Aufzügen. Der entscheidende Begriff der „Sicherheitskomponente“ wird von der Kommission dabei tendenziell weit ausgelegt: Auch ein System, das nicht ausdrücklich für eine Sicherheitsfunktion vorgesehen ist, kann als Sicherheitskomponente zu qualifizieren sein, wenn sein Ausfall oder seine Fehlfunktion zu einer Gesundheits- oder Sicherheitsgefahr führen kann. Reine Effizienz-, Komfort- oder Leistungsfunktionen ohne Sicherheitsrelevanz fallen dagegen nicht darunter. 

Anhang III (Anwendungsfall): Der für die Mehrzahl der Unternehmen praktisch bedeutsamere Weg eröffnet sich über Anhang III der KI-VO. Dort listet der Gesetzgeber acht Anwendungsfälle (mit weiteren Differenzierungen) auf, in denen der Einsatz von KI-Systemen als grundsätzlich hochriskant eingestuft wird:

• Biometrie
• Kritische Infrastruktur
• Bildung und Berufsausbildung
• Beschäftigung und Arbeitnehmerverwaltung
• Zugang zu wesentlichen privaten und öffentlichen Diensten
• Strafverfolgung
• Migration, Asyl und Grenzkontrolle
• Justiz und demokratische Prozesse

Diese Kategorie soll im Mittelpunkt des vorliegenden Beitrags stehen.

Der „Intended Purpose“ als Schlüssel zur Klassifizierung

Ein zentrales Leitmotiv der Leitlinien-Entwürfe ist der vorgesehene Verwendungszweck („intended purpose“). Hierbei ist maßgeblich, wie der Verwendungszweck in Gebrauchsanweisungen, technischer Dokumentation, Werbematerialien und sonstigen Anbieteraussagen nach außen dargestellt wird.

Die Kommission macht in ihren Entwürfen deutlich, dass sich ein Anbieter nicht durch einen Disclaimer oder einen Ausschluss in den Nutzungsbedingungen von der Hochrisiko-Einstufung befreien kann, wenn Design, Marketing oder die Gesamtpositionierung des Systems einen Hochrisiko-Einsatz nahelegen. Jede Einschränkung des Verwendungszwecks muss klar, konkret und konsistent über alle Materialien hinweg kommuniziert werden. 

Praxisbeispiel HR: Wo beginnt die Hochrisiko-Zone?

Anhang III der KI-VO erfasst unter Punkt 4 ausdrücklich KI-Systeme im Bereich Beschäftigung, Arbeitnehmerverwaltung und Zugang zur Selbständigkeit. Konkret erfasst werden

• „KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten“
• „KI-Systeme, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden soll“

Nach den Leitlinien-Entwürfen sind hierbei v.a. der konkrete Einsatzbereich und sodann der Grad der Beeinflussung einer menschlichen Entscheidung von Relevanz. Das bloße Vorhandensein einer menschlichen Kontrolle reicht hierbei nicht aus, um die Klassifizierung als Hochrisiko-KI-System zu umgehen. Da gerade der HR-Bereich von enormer Praxisrelevanz ist, möchten wir weitere Einzelheiten in einem eigenständigen KI-Flash adressieren.

Der Art. 6 Abs. 3-Filter: Ausnahme für Anhang-III-Systeme 

Für KI-Systeme, die zwar in einen der Anhang-III-Bereiche fallen, deren konkrete Funktionen jedoch insgesamt als überschaubar gelten, sieht Art. 6 Abs. 3 KI-VO einen Filter vor, der eine Einstufung als Hochrisiko-System (doch) vermeiden kann. Dieser Filter gilt ausschließlich für Systeme nach Anhang III und nicht für die produktsicherheitsrelevanten KI-Systeme nach Anhang I. 

Die Kommission betont in den Entwürfen ausdrücklich, dass die Filterbedingungen eng auszulegen sind, da Art. 6 Abs. 3 KI-VO eine Ausnahme von grundsätzlich grundrechtsschützenden Regeln darstellt.

Der Filter greift (nur) dann, wenn eines der folgenden Kriterien erfüllt ist:

• Enge Verfahrensaufgabe: Das System erfüllt nur eine klar begrenzte, verfahrenstechnische Aufgabe, etwa das Sortieren von Bewerbungsunterlagen in vordefinierte Kategorien. Systeme, die dabei Wertungen vornehmen oder Daten bewerten, fallen nicht darunter.
• Verbesserung bereits abgeschlossener menschlicher Tätigkeit: Das System verbessert das Ergebnis einer vorher abgeschlossenen menschlichen Handlung, ersetzt oder revidiert diese aber nicht. Beispiel: Markierung von Widersprüchen in einer menschlich getroffenen Entscheidung.
• Erkennung von Entscheidungsmustern ohne Einfluss: Das System erkennt Muster oder Abweichungen in Entscheidungsverläufen, beeinflusst und ersetzt die menschliche Beurteilung jedoch nicht.
• Vorbereitende Aufgabe mit geringem Ergebniseinfluss: Das System bereitet eine Entscheidung vor, ohne sie inhaltlich zu lenken, etwa durch die Bereitstellung relevanter Leitlinien, ohne dass daraus unmittelbar eine Entscheidungsrichtung folgt.

Die operative Schlüsselfrage lautet damit: Strukturiert das System lediglich einen Vorgang oder beeinflusst es das Urteil des Menschen? Systeme, die sortieren, konvertieren oder Duplikate erkennen, können unter den Filter fallen. Systeme, die ranken, bewerten, oder klare Empfehlungen aussprechen, fallen dagegen in der Regel in die Hochrisiko-Klassifizierung.

Der vorgenannte Filter ist zudem vollständig ausgeschlossen, wenn das KI-System sog. „Profiling“ betreibt, also eine automatisierte Verarbeitung personenbezogener Daten durchführt, die darin besteht, dass personenbezogene Daten verwendet werden, um bestimmte persönliche Aspekte, die sich auf eine natürliche Person beziehen, zu bewerten. Diese Einschränkung hat erhebliche Praxisrelevanz, da viele KI-Tools im Personalbereich zwangsläufig auch Profiling-Funktionen beinhalten. Eine gründliche Prüfung ist hier somit unerlässlich.

Wer den o.g. Filter in Anspruch nehmen möchte, muss – als Anbieter dieses Systems – vor der Markteinführung zudem eine schriftliche Selbstbewertung erstellen, die den Verwendungszweck, die Grundlage für die Hochrisiko-Einordnung nach Art. 6 Abs. 2 KI-VO, die anwendbare Filterbedingung und die Begründung, warum kein Profiling vorliegt, dokumentiert. Das System muss anschließend in einer EU-Datenbank registriert werden. 

Stolperfalle für KI-Betreiber

Im ersten Schritt ist der Anbieter des KI-Systems dafür verantwortlich, den Verwendungszweck eines KI-Systems – und somit auch die Frage der Risikoklassifizierung – zu bestimmen. Aus Betreiber-Sicht ist jedoch insbesondere die Regelung in Art. 25 Abs. 1 KI-VO von Relevanz. Dort wird u.a. festgehalten, dass ein Betreiber zu einem Anbieter „aufschwingen“ kann, sofern bei der Inbetriebnahme die Zweckbestimmung eines KI-Systems, das nicht als hochriskant eingestuft und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so verändert wird, dass das betreffende KI-System nun zu einem Hochrisiko-KI-System im Sinne von Art. 6 KI-VO wird.

Bedeutet vereinfacht: Wer ein generatives KI-System – das häufig nicht als hochriskant einzustufen sein wird – nun zur Bewerberauswahl einsetzt, kann die Risikoklassifizierung dieses KI-Systems ändern und gleichzeitig in eine andere regulatorische Rolle schlüpfen. 

Praxishinweis: Konsultation nutzen!

Die Leitlinien-Entwürfe sind bis zum 23. Juni 2026 zur öffentlichen Konsultation freigegeben. Eine formelle Annahme durch die Kommission ist danach vorgesehen, ein konkreter Zeitplan steht noch nicht fest. Die Leitlinien sind nach derzeitigem Stand nicht rechtsverbindlich, die autoritative Auslegung liegt stets beim EuGH. Sie sind dennoch das bislang klarste Signal, wie die Kommission und damit faktisch auch die nationalen Marktüberwachungsbehörden die Klassifizierungsfrage angehen werden.

Der durch den KI-Omnibus gewonnene zeitliche Puffer sollte somit nicht als Anlass zum Abwarten verstanden werden, sondern als Chance zur strukturierten Vorbereitung. Die Klassifizierungsfrage – ist mein System hochriskant, und wenn ja, greift der Art. 6 Abs. 3-Filter? – sollte daher möglichst frühzeitig beantwortet bzw. zumindest vorbereitet werden. 

Unsere Erfahrung zeigt: Eine verspätete Befassung oder gar ein später Kurswechsel führen häufig zu einem erheblichen Mehraufwand. Gerne unterstützen wir Sie daher bei der initialen Prüfung Ihrer KI-Systeme und einem für Sie praxistauglichen Format zur Dokumentation und routinierten Überprüfung Ihrer Dokumentation.