KI unter dem neuen Produkthaftungsrecht: Was ab Dezember gilt und wie Sie den Nachweis führen

Bis zum 9. Dezember 2026 muss Deutschland die EU-Produkthaftungsrichtlinie (EU) 2024/2853 umsetzen. Sie zählt Software und KI-Systeme erstmals ausdrücklich zu den Produkten. Wer ein KI-System in Verkehr bringt, haftet damit verschuldensunabhängig für Schäden durch Sicherheitsmängel. Bei der Frage, ob ein Fehler vorliegt, zählen auch Updates und Cybersicherheit. Entscheidend wird damit, welche Nachweise über die Qualitätssicherung ein Unternehmen vorlegen kann.

Das neue Recht enthält zudem Beweiserleichterungen. Gerichte können die Offenlegung von Beweismitteln anordnen, und bei technisch komplexen Systemen können Fehler und Ursachenzusammenhang vermutet werden. Für Unternehmen wird es damit wichtiger, nachvollziehbar zu dokumentieren, wie ihre Systeme geprüft wurden und mit welchem Ergebnis.

Ein kurzer Selbstcheck:

• Können Sie heute nachweisen, wie Ihr KI-Assistent vor dem Release getestet wurde und mit welchem Ergebnis?
• Ist festgehalten, welche Anforderungen an das Verhalten Ihres Systems gelten und wer sie festgelegt hat?
• Würden Sie bemerken, wenn sich Ihr System nach einem Modell- oder Prompt-Update im Betrieb anders verhält?

Dr. Daniel Meßmer (SKW Schwarz) erklärt, was das neue Recht für Anbieter und Betreiber von KI-Systemen konkret bedeutet und welche Dokumentation im Haftungsfall trägt. Dr. Nicolai Bohn (Rhesis AI) zeigt danach an einem beispielhaften KI-Agenten, wie dieser Nachweis in der Entwicklung vor einem Release entsteht: aus der Anforderung wird ein Testfall, aus dem Testlauf ein nachvollziehbares Protokoll. Im produktiven Einsatz werden dann die echten Interaktionen der Nutzer nach denselben Kriterien überwacht, mit denen das System vorher simuliert und getestet wurde.

Im Anschluss bleiben 15 Minuten für Ihre Fragen.

Für wen: Legal- und Compliance-Teams, Produktverantwortliche und KI-Entwickler aus Unternehmen, die LLM-basierte Assistenten und KI-Agenten entwickeln und im Kundenkontakt einsetzen möchten.