KI-Flash: Neues FAQ der Europäischen Kommission zur KI-Kompetenz nach Artikel 4 der KI-Verordnung

Nachdem wir in unserem letzten KI-Flash über eine Konsultation des AI Office zur Vorbereitung von Leitlinien für GPAIM berichtet haben, möchten wir Ihnen auch weiterhin in regelmäßigen Abständen rechtliche Impulse mit auf den Weg geben. 

Heutiges Thema: Neues FAQ der Europäischen Kommission zur KI-Kompetenz nach Artikel 4 der KI-Verordnung

In Art. 4 der KI-Verordnung (KI-VO) wird vorgeschrieben, dass Unternehmen, die KI-Systeme entwickeln oder einsetzen, eine sog. KI-Kompetenz umsetzen müssen (wir hatten bereits hierzu berichtet). In der vorgenannten Norm heißt es wörtlich:

„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“

Eine weitere Präzisierung findet sich in Art. 3 Nr. 56 KI-VO, wonach der Begriff der KI-Kompetenz wie folgt definiert wird:

„„KI-Kompetenz“ die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.“

Während die Verpflichtung zur Umsetzung der KI-Kompetenz bereits seit dem 2. Februar 2025 Gültigkeit beansprucht, sind Überwachungsmaßnahmen ab dem 3. August 2026 vorgesehen.

Die Europäische Kommission hat nunmehr per Datum 12. Mai 2025 ein FAQ veröffentlicht, in dem sich wichtige Hinweise zu Art, Reichweite und auch zur Sanktionierung (!) dieser Pflicht nach der KI-VO auffinden lassen. Da sich viele Unternehmen mit der Umsetzung der KI-Kompetenz schwertun, möchten wir das FAQ zum Anlass nehmen, einen kurzen Überblick zu den Ausführungen zu Art. 4 KI-VO zu vermitteln.

Kernaussagen zur KI-Kompetenz

• Bei Art. 4 KI-VO handelt es sich um eine gesetzliche Verpflichtung und nicht lediglich um eine Kür.
• Die Überwachung der KI-Kompetenz beginnt – wie bereits aufgezeigt – ab dem 3. August 2026. Obwohl die KI-VO selbst keinen Bußgeldtatbestand für die Nichtbeachtung der KI-Kompetenz vorhält, steht es den nationalen Marktüberwachungsbehörden (in Deutschland regelmäßig die Bundesnetzagentur) offen, eigene Sanktionen zu verhängen. Grundlage hierfür sind nationale Gesetze, die bis zum 2. August 2025 zu erlassen sind. 
• Da – neben den eigenen Beschäftigten – auch „Personen, die [im] Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind“, von der Vorschrift adressiert werden, gilt der Aufbau der KI-Kompetenz bspw. auch für Auftragnehmer oder Dienstleister, die die KI-Systeme eines Unternehmens bedienen.
• Die Europäische Kommission hält ausdrücklich fest, dass Art. 4 KI-VO keine Verpflichtung dahingehend enthält, die KI-Kenntnisse der Beschäftigten gesondert zu messen. Ein „ausreichendes Maß“ an KI-Kompetenz müsse jedoch die technischen Kenntnisse, die Erfahrung, die Ausbildung und die Schulung der Beschäftigten berücksichtigen.
• Im FAQ wird ausdrücklich empfohlen, dass „zumindest“ (im Original: „as a minimum“) die folgenden To Dos abzuarbeiten sind:
• Es muss ein allgemeines Verständnis zu KI im Unternehmen aufgebaut werden. Dies setzt voraus, dass die Funktionsweise von KI sowie deren Einsatzfelder im Unternehmen aufgezeigt und die jeweiligen Chancen und Risiken erklärt werden.
  • Es ist herauszuarbeiten, in welcher Rolle das Unternehmen beim Einsatz von KI auftritt (Anbieter oder Betreiber?).
  • Die Risiken beim spezifischen Einsatz von KI sind zu analysieren und gegenüber den Beschäftigten zu kommunizieren. 
  • Die KI-Kenntnisse der Beschäftigten sind auf Basis der vorangegangenen Analyse zu konkretisieren, wobei insbesondere die unterschiedlichen Erfahrungsstände sowie der Kontext des KI-Einsatzes zu berücksichtigen sind.
• Die Europäische Kommission stellt ausdrücklich klar, dass die KI-Kompetenz – neben rein technischen Aspekten – auch rechtliche, ethische und Aspekte der Governance beinhaltet. Unternehmen sollten daher ein ausgewogenes Konzept zur Sicherstellung der KI-Kompetenz erarbeiten, in welchem die o.g. Arbeitsschritte und Inhalte abgebildet sind.
• Bei der Frage, ob die KI-Kompetenz stets durch Schulungsmaßnahmen umzusetzen sei, stellt die Europäische Kommission auf die vorstehenden Erwägungen ab. Sofern bspw. ein Hochrisiko-KI-System im Unternehmen eingesetzt wird, kann es unzureichend sein, Beschäftigte lediglich mit der Gebrauchsanweisung des KI-Systems „abzuspeisen“. Auch bei der KI-Kompetenz folgt die KI-VO somit einem risikobasierten Ansatz. Je mehr Risiken von einem KI-System ausgehen, oder je breiter der konkrete Einsatzzweck ist, desto eher wird eine gezielte Schulungsmaßnahme ratsam sein. Nach unserer Erfahrung sollte hierbei zudem zwischen verschiedenen Nutzerklassen (bspw. temporäre Nutzer contra Key-User) unterschieden werden.
• Beim Einsatz von generativen KI-Systemen (bspw. ChatGPT oder MS Copilot) sollten jedenfalls spezifische Risiken aufgezeigt werden, wozu bspw. Halluzinationen oder Trainings-Bias gehören können.

Praxishinweis

Der Aufbau der KI-Kompetenz ist aus gleich mehreren Gründen wichtig. Einerseits ist sie in Art. 4 KI-VO als gesetzliche Pflicht festgehalten und kann auf Basis – noch zu erlassender – nationaler Gesetze sanktioniert werden. Soweit also bislang die Aussage getroffen wurde, dass es sich um eine „sanktionslose“ Pflicht handelt, ist dies aktuell (noch) zutreffend, kann sich in Zukunft jedoch als überholt herausstellen. Darüber hinaus dient der Aufbau der KI-Kompetenz auch der Enthaftung der Geschäftsführung, da die Nichtbeachtung dieser gesetzlichen Vorgaben jedenfalls als Verstoß gegen Sorgfaltspflichten anzusehen wäre. 

Unternehmen sollten sich daher zeitnah mit den Anforderungen der KI-Kompetenz auseinandersetzen und jedenfalls ein erstes Konzept für deren Umsetzung erarbeiten.

Weitere Informationen zu den konkreten inhaltlichen Anforderungen der KI-Kompetenz können dem oben verlinkten FAQ der Europäischen Kommission entnommen werden. Wir unterstützen gerne bei der Vorbereitung und Umsetzung der erforderlichen Schritte und verweisen hierbei nochmal gerne auf unser Inhouse-Training KI, in welchem wir gemeinsam mit unserem Kooperationspartner Genow.ai die technischen und rechtlichen Grundzüge beim Einsatz von KI aufzeigen.

Kommen Sie gerne jederzeit auf uns zu. Wir freuen uns darauf, Sie beim rechtskonformen Einsatz von KI zu unterstützen!