Aktuell befinden sich im europäischen Gesetzgebungsprozess mehrere Vorhaben der Europäischen Kommission, um einen europaweit einheitlichen Haftungsrahmen zu schaffen, der dem digitalen Zeitalter, der Kreislaufwirtschaft und den Auswirkungen globaler Wertschöpfungsketten gerecht wird. Hierzu zählen auch die Herausforderungen neuer Technologien, darunter Künstlicher Intelligenz (KI).

Vielfältiger und aktueller könnte der Anwendungsbereich dieser neuen Rechtssätze kaum sein: Er reicht vom Einsatz von Produkten, wie Drohnen oder Robotern, über autonomes Fahren, Softwarelösungen und Cybersicherheit bis hin zu KI-Medizinprodukten. Für Unternehmen wird sich dadurch der persönliche Anwendungsbereich genauso ändern wie die Voraussetzungen einer potentiellen Haftung.

Die EU-Kommission hat dazu einen Entwurf für eine Richtlinie über KI-Haftung vorgestellt.

1. Wesentliche Regelungen

Der „Vorschlag für eine Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz“ (KI-HaftRL-E) soll ein zusätzliches europaweit einheitliches Haftungsregime schaffen, um Regelungslücken im Zusammenhang mit dem Einsatz von KI zu schließen.

Mit der KI-HaftRL sollen die nationalen Haftungsregelungen der außervertraglichen verschuldensabhängigen Haftung für Schäden jeder Art und jegliche Geschädigte ergänzt, nicht jedoch ersetzt werden. Im Übrigen soll sich die Haftung auch weiterhin nach nationalem Recht richten. Anwendbar bleibt also auch bspw. das Produkthaftungsrecht in Form des Produkthaftungsgesetzes (ProdHaftG), für dessen Neuregelung die EU-Kommission jüngst ebenfalls einen Entwurf, den „Vorschlag für eine Richtlinie über die Haftung für fehlerhafte Produkte“ (ProdHaftRL-E) vorgelegt hat.

Inhaltlich ist der KI-HaftRL-E mit der beabsichtigten europäischen „Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz“ (KI-VO) verzahnt, welche die Europäische Kommission im April 2021 als Entwurf vorgestellt hat und sich aktuell noch im Gesetzgebungsprozess befindet. Die KI-VO soll den Einsatz, d.h. das Inverkehrbringen sowie die Inbetriebnahme und Verwendung von KI in der Europäischen Union regeln. Sie enthält eine nach Risikoklassen abgestufte Regulierung für KI-Systeme, u.a. Dokumentations- und Transparenzanforderungen.

Zentrale Regelungen des KI-HaftRL‑E sind demgegenüber insbesondere die auch im ProdHaftRL-E neu eingeführte Beweislastumkehr und Offenlegungspflicht für Beweismittel.

1. 1. Offenlegungspflicht für Beweismittel (Art. 3 KI-HaftRL‑E)

Der KI-HaftRL‑E sieht vor, dass nationale Gesetzgeber die Gerichte ermächtigen sollen, im Hinblick auf Schadensersatzansprüche die Offenlegung einschlägiger Beweismittel anzuordnen. Dies ist etwas, das in gewöhnlichen Haftungsprozessen nur unter ganz besonderen Voraussetzungen nach der deutschen Zivilprozessordnung (ZPO) denkbar ist (vgl. z.B. § 142 ZPO). Es bestehen jedoch auch nach dem KI-HaftRL-E folgende Besonderheiten:

• Offenlegung nur für Hochrisiko-KI-Systeme: Die Offenlegungspflicht für Beweismittel soll nur in Bezug auf bestimmte Hochrisiko-KI-Systeme gelten. Die Klassifizierung als KI-System oder gar als Hochrisiko-KI-System ergibt sich aus der KI-VO und richtet sich u.a. nach Funktion und Zweck des Systems und seinen Auswirkungen auf Gesundheit und Sicherheit natürlicher Personen. Hochrisiko-KI-Systeme sind sicherheitsrelevante Systeme mit Risiken für Gesundheit und Sicherheit von Personen, z.B. Sicherheitskomponenten in Kraftfahrzeugen oder Medizinprodukten.
• Antragsberechtigung: Die Offenlegung sollen – neben Klägern in einem Schadensersatzprozess – auch potentielle Kläger außergerichtlich beantragen dürfen, wenn sie zuvor vergeblich zur Offenlegung aufgefordert haben. Um Rechtsmissbrauch auszuschließen, muss ein potentieller Kläger zur Stützung seines Antrags die Plausibilität seines Schadensersatzanspruchs durch Vorlage von Tatsachen und Beweismitteln ausreichend belegen. Die konkrete Ausgestaltung ist allerdings den nationalen Gesetzgebern überlassen und bleibt daher abzuwarten. In jedem Fall muss auch der Kläger zunächst angemessene Anstrengungen unternehmen, die einschlägigen Beweismittel vom Beklagten zu beschaffen, sodass er nicht ohne weiteres auf die privilegierte Beschaffung von Beweismitteln zurückgreifen kann.
• Antragsgegner: Zur Offenlegung verpflichtet werden können Anbieter eines Hochrisiko-KI-Systems, d.h. jede Stelle, die ein KI-System entwickelt oder entwickeln lässt, um es unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr zu bringen oder in Betrieb zu nehmen. Zusätzlich sollen Gerichte auch anordnen dürfen, dass Beweismittel durch die Nutzer von Hochrisiko-KI-Systemen oder bestimmte weitere Personen, die den Pflichten aus der KI-VO unterliegen, offenzulegen sind. Zu letzteren zählen auch die Hersteller, Händler und Einführer von Hochrisiko-KI.
• Sanktion – widerlegbare Vermutung: Kommt der Beklagte der angeordneten Offenlegung von Beweismitteln nicht nach, hat das Gericht widerlegbar zu vermuten, dass der Beklagte diejenige Sorgfaltspflicht aus nationalem oder Unionrecht verletzt hat, auf die sich das konkrete Beweismittel beziehen soll. Will der Antragsgegner also nicht Gefahr laufen, den Rechtsstreit zu verlieren, wird er gewissenhaft zu prüfen haben, ob er die begehrten Informationen offenlegt, insbesondere wenn Betriebs- und Geschäftsgeheimnisse betroffen sind. Alternativ bleibt es dem Antragsgegner möglich, der Vermutung entgegenzutreten und die Einhaltung der Sorgfaltspflichten nachzuweisen.

1. 2. Beweiserleichterungen (Art. 4 KI-HaftRL‑E)

Der KI-HaftRL‑E sieht zudem eine Beweiserleichterung vor, wonach die Kausalität zwischen Verschulden des gegebenenfalls offenlegungspflichtigen Beklagten und dem vom KI-System hervorgebrachten Ergebnis bzw. der Tatsache, dass das KI-System kein Ergebnis hervorgebracht hat, widerlegbar vermutet wird. Diese Beweiserleichterung ist deshalb von Bedeutung, weil bei der Durchsetzung von Schadensersatzansprüchen vor Gericht sonst die konkrete Wirkung eines KI-Systems durch den Anspruchsteller bewiesen werden müsste. In der Regel wird aber der Entscheidungsprozess von KI für Geschädigte nicht nachvollziehbar und insofern der Beweis schwierig, wenn nicht sogar unmöglich sein. Dieser Informationsasymmetrie soll die Beweiserleichterung Rechnung tragen.

2. Bewertung und Ausblick

Grundsätzlich ist zu begrüßen, dass der Europäische Normsetzungsgeber sich mit der KI-VO und KI-Haftungs-RL den aktuellen Entwicklungen um KI angenommen hat und bereits bestehende nationale Haftungsregime insoweit ergänzt werden sollen.

Wie die ProdHaftRL-E sieht auch der KI-HaftRL-E mit Beweiserleichterungen und Offenlegungspflichten echte Neuerungen vor.  Sie greifen ein wesentliches Problem bei der Darlegung und dem Beweis von Schadensersatzansprüchen im Hinblick auf komplexe technische Zusammenhänge auf.

Ob die angedachte Offenlegungspflicht in dieser Form beibehalten wird und wie der deutsche Gesetzgeber diese im deutschen Prozessrecht ausgestalten wird, bleibt noch abzuwarten. Der Diskurs hierzu ist in vollem Gang.

Die Offenlegungspflicht ist an die sog. „disclosure of evidence“ aus dem Common Law-Rechtskreis angelehnt. Den kontinentaleuropäischen Rechtsordnungen, darunter auch dem deutschen Prozessrecht, ist eine solche Regelung bislang fremd. Zwar dürfte ein sog. Ausforschungsbeweis nicht zu befürchten sein, weil der Kläger zunächst seinen Anspruch hinreichend substantiiert darzulegen hat. Es ist aber als nicht unproblematisch zu bewerten, dass die Offenlegungspflicht nur einseitig gelten soll (z.B. in Bezug auf relevante Daten des Geschädigten).