Europa hat nun erstmals eine unionsweite Verordnung zur Regulierung von künstlicher Intelligenz („AI Act“) entwickelt und damit den Versuch unternommen, die Sicherheit und das Vertrauen der Bürgerinnen und Bürger der EU zu gewährleisten und gleichzeitig das Potenzial dieser Technologie nutzbar zu machen. Europa soll damit letztlich Zentrum und Vorreiter für vertrauenswürdige KI werden. 

Der AI Act verfolgt einen risikobasierten Ansatz, der – je nach Risikostufe eines KI-Systems – unterschiedlich strenge Compliance-Vorgaben vorsieht. KI-Systeme, deren Einsatz mit einem inakzeptablen Risiko einhergeht, werden vom AI Act vollständig verboten (verbotene KI-Praktiken). Der Einsatz bestimmter KI-Systeme, die ein erhebliches Risiko einer Beeinträchtigung der Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen, ist demgegenüber erlaubt, wird jedoch nur unter strengen Compliance-Voraussetzungen und Sicherheitsmaßnahmen ermöglicht (Hochrisiko-KI-Systeme). Daneben existieren KI-Systeme, die lediglich Transparenzrisiken bergen – etwa, wenn ein Chatbot eine direkte Interaktion zwischen KI und Mensch ermöglicht oder wenn KI-Output als sog. Deepfake nicht mehr als künstlich erzeugt erkennbar ist. Diese KI-Systeme unterliegen lediglich eingeschränkten Pflichten nach dem AI Act, welche diese „Transparenzlücke“ schließen sollen. Diese umfassen insbesondere die Information über die KI-Interaktion sowie die Kennzeichnung von KI-generierten Inhalten. Durch ethische und technische Standards soll der AI Act nun eine rechtliche Grundlage für den verantwortungsvollen Einsatz von KI schaffen.

Die Umsetzung des AI Act stellt Unternehmen vor diverse rechtliche Herausforderungen. Dazu gehören die Risikobewertung und Klassifizierung von KI-Systemen, umfassende Compliance- und Dokumentationspflichten sowie die Schaffung von Data-Governance-Strukturen. Daneben und unabhängig von der Verordnung müssen beim Einsatz und der Herstellung von KI-Systemen auch allgemeine Rechtsfragen beachtet werden wie z. B. Fragen des Datenschutzes, des Urheberrechts und der Haftung.

Der AI Act betrifft vor allem Anbieter und Betreiber von KI-Systemen, daneben aber auch Importeure oder Händler. Alle Akteure, die KI-Systeme entwickeln, einführen oder verwenden, müssen in unterschiedlicher Weise Anforderungen und Standards des AI Acts beachten. Dadurch soll sichergestellt werden, dass Künstliche Intelligenz verantwortungsvoll, ethisch und im Einklang mit europäischen Werten eingesetzt wird.

Eine Sonderrolle nehmen daneben die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAIM) ein. GPAIM, zu denen u.a. generative KI-Modelle gehören können, werden danach unterschieden, ob sie ein systemisches Risiko aufweisen oder nicht, und unterliegen unabhängig von der Integration in ein KI-System regulatorischen Anforderungen. Durch die Vielzahl an technischen Möglichkeiten, KI auf dem europäischen Markt in Verkehr zu bringen (bspw. über eine API), hat der Gesetzgeber daher auch Compliance-Vorgaben für die Bereitstellung dieser KI-Modelle vorgesehen.