Alle News & Events anzeigen

21.08.2023

Künstliche Intelligenz und Haftung: Wer muss zur Rechenschaft gezogen werden, wenn es aufgrund von KI zu Schäden kommt?

Egal wo man aktuell hinschaut: Fast täglich werden wir mit Künstlicher Intelligenz, oder besser gesagt „KI“ konfrontiert. Spätestens seit ChatGPT ist klar: KI wird früher oder später einen großen Beitrag für die Gesellschaft leisten. Bereits jetzt wird KI in vielen Unternehmenszweigen eingesetzt, da diese Menschen im Alltag und im Beruf unterstützen sowie Arbeitsprozesse optimieren kann. Was passiert aber eigentlich, wenn die KI ausnahmsweise eine falsche Entscheidung trifft und infolgedessen Schäden verursacht? Ist in diesen Fällen die KI „schuld“ oder müssen die Fehler der KI einem Menschen zugerechnet werden, der seinerseits in Haftung genommen wird?

Folgendes Beispiel hierzu: Man stelle sich ein autonomes Fahrzeug vor, welches auf der Straße fährt. Plötzlich wird die Ampel rot und ein Passant läuft über die Straße. Die KI in dem Fahrzeug entscheidet nun fehlerhaft, weiterzufahren. Was daraufhin passiert, ist klar. Es kommt zu einem Unfall und der Passant wird schwer verletzt. In diesen Fällen stellen sich konsequenterweise folgende Fragen: Wer kann in Anspruch genommen werden, wenn es aufgrund eines autonomen Fahrzeugs zu einem Unfall kommt? Muss der Hersteller des Fahrzeugs in Haftung genommen werden oder vielmehr der Fahrer oder etwa doch der Halter? Ein anderes Beispiel: Ein Unternehmen nutzt ein KI Programm, welches Bewerbungen von Bewerbern prüft und eine gewisse Auswahl trifft. Die KI entscheidet nun fehlerhaft, nur männliche Bewerber in die engere Auswahl zu nehmen und keine Bewerberinnen. Oder sie entscheidet sich nur für Bewerber ohne Migrationshintergrund. Auch hier stellt sich die gleiche Frage: Muss in diesen Fällen das Unternehmen, welches die KI einsetzt, in Haftung genommen werden oder vielmehr der Hersteller der KI-Software, wenn bestimmte Bewerber aufgrund dieser Entscheidung abgelehnt werden? Nächstes Beispiel: Was passiert eigentlich, wenn eine KI-gestützte Diagnose im Gesundheitsbereich fehlerhaft ist und dies zu einer fehlerhaften Behandlung durch das ärztliche Personal führt? Gegen wen kann der Patient Haftungsansprüche geltend machen? Gegen den Arzt, gegen das Krankenhaus oder vielmehr gegen den KI Hersteller?

Diese Beispiele sind nur einige von vielen, die in der Praxis auftreten können. Fest steht jedenfalls: Kommt es zu einem Haftungsfall, kann es sehr komplex werden. Worauf sollten also Hersteller und Anwender von KI Systemen achten, um nicht haftungsrechtlich in Anspruch genommen zu werden? Der nachfolgende Beitrag soll einen Einblick in die haftungsrechtliche Thematik im Zusammenhang mit KI geben.

Haftung von Herstellern

Wie kann also ein Geschädigter gegen den KI Hersteller vorgehen? Hierfür muss ein Blick auf die möglichen Rechtsgrundlagen geworfen werden. Geschädigten stehen hierbei insbesondere die folgenden Möglichkeiten zur Verfügung:

  • Vertragliche Haftung
  • Produzentenhaftung
  • Produkthaftung

Hierzu im Einzelnen:

1. Vertragliche Haftung

Man stelle sich vor, ein KI Hersteller bietet einem Krankenhaus eine KI Software an und sichert dem Krankenhaus vertraglich zu, dass die KI in der Lage sei, innerhalb von 12 Stunden eine Diagnose zu erstellen. Nun tritt aber der Fall ein, dass die KI erst nach Ablauf von 12 Stunden ein Ergebnis liefert. In diesem Fall kann das Krankenhaus gegen den KI Hersteller aus Vertrag vorgehen, da dem Krankenhaus diese Eigenschaft vertraglich zugesichert wurde.

Praxishinweis:

Unternehmen sollten im Rahmen der Vertragsverhandlungen dringend auf den vereinbarten Leistungsumfang achten. Grundsätzlich gilt: Je weniger Leistung KI Hersteller versprechen, desto geringer ist ihr Haftungsrisiko. Daher sollte im Vorfeld gründlich darüber nachgedacht werden, welche konkreten Pflichten in den Vertrag aufgenommen werden.

2. Produzentenhaftung

Darüber hinaus besteht für Geschädigte die Möglichkeit, Hersteller im Rahmen der Produzentenhaftung in Anspruch zu nehmen. Eine Produzentenhaftung kommt immer dann in Betracht, wenn nach Inverkehrbringen des Produktes bspw. das Leben, der Körper oder das Eigentum verletzt werden. Zentrale Voraussetzung für diesen Anspruch ist die Verletzung einer Verkehrssicherungspflicht. Warum das der Fall ist, lieg klar auf der Hand: Derjenige, der eine Gefahrenquelle schafft oder ein Hindernis in den Verkehr bringt, ist verpflichtet, angemessene Maßnahmen zu treffen, um die Sicherheit anderer Personen zu gewährleisten. Geht man also bspw. von dem obigen Beispiel aus, so trifft den KI Hersteller die Pflicht, dafür zu sorgen, dass von seinem entwickelten autonomen Fahrzeugen keine Gefahren ausgehen. Wie hoch allerdings die Anforderungen an die Verkehrssicherungspflicht konkret sind, ist einzelfallabhängig. Bei einem autonomen Fahrzeug sind die Anforderungen selbstverständlich sehr hoch. Bei einer KI, welche in der Unterhaltungsbranche eingesetzt wird, sieht das jedoch anders aus. Folgende Verkehrssicherungspflichten sind in diesem Zusammenhang anerkannt:

  • Konstruktionsfehler
  • Fabrikationsfehler
  • Organisationsfehler
  • Instruktionsfehler
  • Produktbeobachtungsfehler

Praxishinweis:

Um kein Risiko für eine Verletzung von Verkehrssicherungspflichten einzugehen und damit keine Haftungsansprüche auszulösen, sollten Hersteller zwingend ein sorgfältig geplantes Qualitätsmanagement ausarbeiten und in ihrem Betrieb implementieren.

3. Produkthaftung

Ferner können Geschädigte Hersteller aus Produkthaftungsrecht in Anspruch nehmen. Nach § 1 Abs. 1 S. 1 ProdHaftG kommt eine solche Haftung immer dann in Betracht, wenn durch ein fehlerhaftes Produkt ein Mensch getötet, sein Körper oder seine Gesundheit verletzt oder eine Sache beschädigt wird. Die Besonderheit gegenüber der Produzentenhaftung liegt darin, dass der Hersteller verschuldensunabhängig haftet, sofern dieser ein fehlerhaftes Produkt in den Verkehr bringt.

Haftung von Anwendern

Auch KI Anwender können von Geschädigten in Anspruch genommen werden, wobei sich Haftungsansprüche insbesondere ergeben können aus:

  • Vertraglicher Haftung
  • Gefährdungshaftung
  • Berufshaftung
  • Haftung für Diskriminierungen
  • Datenschutzrechtlicher Haftung

Zu einigen dieser haftungsrechtlichen Ansprüche hierzu im Einzelnen:

1. Gefährdungshaftung

Geschädigte haben zum einen die Möglichkeit, gegen den Anwender aus Gefährdungstatbeständen vorzugehen. Gefährdungshaftung bedeutet, dass derjenige, der eine Gefahrenquelle schafft, grundsätzlich verschuldensunabhängig auch für daraus resultierende Schäden haften muss. Nehmen wir wieder das oben genannte Beispiel des autonomen Fahrzeugs. Kommt es aufgrund der fehlerhaften Entscheidung der KI zu einem Unfall, so hat der Geschädigte grundsätzlich die Möglichkeit, gegen den Halter aus § 7 Abs. 1 StVG vorzugehen.

2. Berufshaftung

Darüber hinaus ist auch an Ansprüche von Geschädigten gegen Berufsträger zu denken. Wird der Patient aufgrund einer fehlerhaften KI Software fehlerhaft vom ärztlichen Personal beraten und kommt es daher zu einem Behandlungsfehler, haben geschädigte Patienten ggf. die Möglichkeit, gegen den Arzt aus Berufshaftungsrecht vorzugehen. Beispielsweise besteht die Möglichkeit, Schadensersatzansprüche gegen den Arzt aus § 280 Abs.1 BGB i.V.m. § 630 a BGB geltend zu machen. Daneben kann auch spezifisch – also je nachdem, um welche konkreten Beruf es sich handelt – aus den jeweiligen Vorschriften vorgegangen werden. Im Falle von Behandlungsfehlern ist bspw. an Ansprüche aus dem Arzthaftungsgesetz zu denken.

3. Haftung für Diskriminierung

Ferner können Geschädigte im Falle von Diskriminierungen insbesondere Unterlassungs- und Schadensersatzansprüche geltend machen. Zu denken ist hierbei etwa an § 21 AGG. Stellt sich also bspw. heraus, dass ein Unternehmen eine KI einsetzt, welche Bewerber für offenen Stellen bewertet und kommt es aufgrund dieser KI zu einer Benachteiligung, können abgelehnte Bewerber Ansprüche aus dem Allgemeinen Gleichbehandlungsgesetz geltend machen.

4. Datenschutzrechtliche Haftung

Kommt es infolge des Einsatze von KI zu Datenschutzverletzungen, müssen darüber hinaus Verantwortliche ggf. mit hohen Bußgeldern rechnen.  

Ausblick Europäische Agenda

Die oben geschilderten Ausführungen zeigen, dass es gegenwärtig auf nationaler Ebene recht umfangreiche gesetzliche Haftungsregelungen gibt. Parallel dazu wird auf europäischer Ebene über die KI Verordnung „AI Act“ diskutiert, welche einen einheitlichen Rechtsrahmen für KI in der EU schaffen soll, um einen verantwortungsvollen Einsatz von KI zu gewährleisten (siehe hierzu auch unsere Landingpage https://www.skwschwarz.de/fokusthemen/artificial-intelligence-act). Darüber hinaus wird auch über die Schaffung einer neuen EU-Richtlinie über KI-Haftung diskutiert (siehe hierzu auch unsere Landingpage https://www.skwschwarz.de/fokusthemen/richtlinie-zur-ausgestaltung-der-haftung-fuer-ki-systeme).

Zusammenfassung

Die vielen Vorteile von KI sind für viele Unternehmen einer der Hauptgründe, diese in ihrem Unternehmen einzusetzen oder gar selbst KI Produkte herzustellen. So oder so, an dem Thema KI wird man zwangsläufig nicht herumkommen. Sollten Sie auch überlegen, KI künftig in Ihrem Unternehmen integrieren bzw. bereits in Ihrem Unternehmen eingesetzt haben oder sogar selbst KI entwickeln und produzieren: Wir stehen mit unserer fachlichen Expertise an Ihrer Seite und beraten Sie gerne, wenn es darum geht, Haftungsansprüche im Zusammenhang mit KI zu minimieren. Kommen Sie gerne auf uns zu.

Autor/innen

Fabian Bauer

Fabian Bauer

Senior Associate

Profil anzeigen
Marius Drabiniok

Marius Drabiniok

Associate

Profil anzeigen
Oliver Hornung

Dr. Oliver Hornung

Partner

Profil anzeigen
Marwah Kamal

Marwah Kamal

Associate

Profil anzeigen