Künstliche Intelligenz in der Defense Industry – Rechtlicher Rahmen und praktische Implikationen der KI-Verordnung

Die rasante Entwicklung und Integration von Künstlicher Intelligenz (KI) in sicherheitsrelevante Technologien stellt auch die Verteidigungsindustrie vor neue Herausforderungen. Mit der Verabschiedung der KI-Verordnung (KI-VO) hat die Europäische Union einen umfassenden Rechtsrahmen geschaffen, der den Einsatz von KI-Systemen regulieren soll – insbesondere auch in (hoch-) riskanten Einsatzfeldern.

Für Unternehmen, die KI-Systeme im militärischen Umfeld entwickeln, vertreiben oder einsetzen, stellt sich daher die zentrale Frage: 

Wann gilt die KI-Verordnung – und wann nicht? 

Die Kurzantwort lautet: Die KI-VO gilt nur dann, wenn das KI-System nicht ausschließlich militärischen oder sicherheitsbezogenen Zwecken dient. Sobald ein KI-System (auch) für zivile oder gemischte Zwecke verwendet wird – etwa im Rahmen von Dual-Use-Konzepten oder im Rahmen von internen Anwendungen (bspw. im HR-Bereich) – greift die KI-VO und bringt umfangreiche Pflichten mit sich. Im Detail:

1. Keine Anwendbarkeit der KI-VO bei ausschließlich militärischer Nutzung

Die KI-Verordnung findet keine Anwendung auf KI-Systeme, die ausschließlich für militärische, verteidigungspolitische oder nationale Sicherheitszwecke verwendet werden. Dies ergibt sich unmittelbar aus Art. 2 Abs. 3 S. 2 KI-VO, der insoweit eine klare Ausnahme formuliert – und zwar unabhängig davon, ob das KI-System von staatlichen oder privaten Stellen betrieben wird.

Die Ausnahme basiert auf Art. 4 Abs. 2 EUV, der die nationale Sicherheit als ausschließliche Zuständigkeit der Mitgliedstaaten definiert. Ergänzend verweist die Verordnung auf die in Art. 42 EUV geregelte gemeinsame Verteidigungspolitik der Union, die den Mitgliedstaaten weitreichende Autonomie bei der Organisation ihrer militärischen Fähigkeiten einräumt.

Die Ausnahme dient dem Schutz der Verteidigungsfähigkeit und der sicherheitspolitischen Interessen der EU-Mitgliedstaaten. In militärischen Konfliktsituationen, bei der Abwehr hybrider Bedrohungen oder im Rahmen nachrichtendienstlicher Tätigkeiten sind die Anforderungen der KI-VO – etwa Transparenzpflichten oder Dokumentationsvorgaben – häufig nicht praktikabel und könnten sicherheitsrelevante Bedürfnisse unterlaufen.

2. Abgrenzung zu gemischten oder zivilen Zwecken („Dual Use“)

Die vorgenannte Ausnahme gilt jedoch nur dann, wenn das KI-System ausschließlich für militärische Zwecke bestimmt ist. Sobald ein KI-System auch für zivile, humanitäre oder polizeiliche Zwecke verwendet wird, fällt es in den Anwendungsbereich der KI-VO. Dies betrifft insbesondere sogenannte Dual-Use-Systeme, die sowohl militärisch als auch zivil genutzt werden.

Die rechtliche Bewertung hängt dabei von der objektiven Zweckbestimmung des KI-Systems ab. Ein bloß potenzieller militärischer Einsatz reicht hierbei nicht aus. Maßgeblich ist, ob das System nachweislich und ausschließlich für militärische Zwecke konzipiert, angepasst und eingesetzt wird. Eine Orientierung bietet hierfür u.a. § 104 GWB, der militärische Zwecke im Rahmen der Verteidigungsvergabe definiert.

Besonders relevant ist auch Erwägungsgrund 24 der KI-VO: Wird ein ursprünglich militärisch genutztes KI-System vorübergehend oder dauerhaft für andere Zwecke eingesetzt – etwa zur Strafverfolgung oder für zivile Anwendungen – müsse die Pflichten der KI-VO (insoweit) umgesetzt werden. Gleichzeitig stellt die Verordnung jedoch klar, dass militärische Anwender nicht durch die KI-VO behindert werden dürfen. Auch wenn ein KI-System also grundsätzlich unter die Verordnung fällt, dürfen militärische Stellen in ihrer Tätigkeit nicht eingeschränkt werden – etwa durch behördliche Aufsicht oder Offenlegungspflichten. Die Umsetzung regulatorischer Pflichten ist hier also nicht ganz unkompliziert, weshalb es stets einer Prüfung im jeweiligen Einzelfall bedarf.

3. KI-Systeme im Unternehmen – Beispiel HR

Neben dem operativen Einsatz in sicherheitsrelevanten Bereichen nutzen viele Unternehmen der Verteidigungsindustrie KI-Systeme auch intern, etwa im Bereich HR. Hier gelten die Vorgaben der KI-VO uneingeschränkt, da der verfolgte Zweck nicht ausschließlich militärisch ist, sondern „gewöhnliche“ unternehmensinterne Use Cases verfolgt werden. Soweit also eine entsprechende, interne Nutzung von KI-Systemen erfolgt, gelten aus Sicht der KI-VO keine rechtlichen Besonderheiten.

Fazit: Klare rechtliche Bewertung erforderlich 

Die KI-Verordnung bringt weitreichende Implikationen für die Verteidigungsindustrie mit sich. Während rein militärische Anwendungen von der Regulierung ausgenommen sind, unterliegen gemischte oder interne KI-Systeme den umfangreichen Anforderungen der Verordnung. Eine sorgfältige rechtliche Prüfung ist daher unerlässlich – insbesondere bei Dual-Use-Konstellationen oder (temporären) Zweckänderungen.

SKW Schwarz verfügt über langjährige Erfahrung im Bereich Technologie-, Vergabe- und Verteidigungsrecht. Wir unterstützen Unternehmen der Sicherheits- und Verteidigungsindustrie gerne bei der rechtssicheren Bewertung, Implementierung und Dokumentation von KI-Systemen.