Richtlinienvorschläge der Europäischen Kommission zur zivilrechtlichen Haftung für Produkte und Künstliche Intelligenz

Die EU-Kommission hat neue Richtlinienvorschläge beschlossen, die in naheliegender Zeit im EU-Parlament besprochen werden. Zum einen wird die außervertragliche zivilrechtliche Haftung beim Einsatz von Künstlicher Intelligenz (KI) mit der Richtlinie KOM(2022) 496 adressiert. Dadurch soll Opfern von Schäden im Zusammenhang mit KI der Erhalt einer Entschädigung erleichtert werden. Dies dient der Sicherstellung, dass Opfer bei durch KI-Produkte oder -Dienste verursachten Schäden von denselben Schutzstandards profitieren können wie bei unter anderen Umständen verursachten Schäden. Zum anderen wurde die verschuldensunabhängige Haftung von Herstellern für fehlerhafte Produkte überarbeitet. Bisher galt eine Richtlinie aus dem Jahre 1985. Die alte Richtlinie soll nun durch neue Richtlinie KOM(2022) 495 ersetzt werden. Ziel ist es, die Haftungsvorschriften an den digitalen Fortschritt, die Kreislaufwirtschaft und die Auswirkungen globaler Wertschöpfungsketten anzupassen. Sie bezweckt die Sicherstellung von Rechtssicherheit für Unternehmen, sodass diese in neue und innovative Produkte investieren können. Zudem sollen Opfer angemessen entschädigt werden können, wenn fehlerhafte, einschließlich digitale und aufbereitete, Produkte einen Schaden verursachen.

Was sind die Eckpunkte des Richtlinienvorschlages zur außervertraglichen zivilrechtlichen Haftung beim Einsatz von KI?

Der Richtlinienvorschlag ergänzt grundsätzlich den im letzten Jahr vorgelegten Verordnungsvorschlag zum europaweiten Einsatz von KI – der KI-Act. Ziel ist die Schaffung eines Rechtsrahmens für KI und damit die Förderung der dazugehörigen Entwicklung. Es sollen einheitliche Regeln für den Zugang zu Informationen gelten und eine Erleichterung der Beweislast im Zusammenhang mit durch KI-Systeme verursachten Schäden bestrebt werden. Opfer von Schäden erhalten einen umfassenderen Schutz zum Beispiel in der Weise, dass es ihnen erleichtert wird, Schadensersatz zu erhalten, wenn eine Person in einem Einstellungsverfahren, bei dem KI-Technologie zum Einsatz kam, diskriminiert wurde. Die neueren Haftungsregelungen umfassen so auch die Gewährleistung einer wirksamen und realistischen Entschädigung. Gleichzeitig soll ein hohes Schutzniveau öffentlicher Interessen in der EU gewährt werden.

Dafür sind bestimmte Elemente in der Richtlinie enthalten, um eine rechtliche Fragmentierung innerhalb der Europäischen Union (EU) zu vermeiden.

Zuerst zum Anwendungsbereich: Die Richtlinie umfasst das Inverkehrbringen, die Inbetriebnahme und die Nutzung jeglicher KI-Systeme. Erfasst werden die außervertraglichen, verschuldensabhängigen zivilrechtlichen Haftungsansprüche gegen eine Person (Anbieter, Entwickler oder Nutzer). Die Entschädigung bezieht sich auf alle Arten von Schäden, die durch das KI-System verursacht werden können – obgleich durch ein Hochrisiko-KI-System verursacht oder nicht. Die Vorgaben für die Streitigkeiten gelten für alle Arten von Opfern (Unternehmen, Organisationen, Einzelpersonen usw.), vergleiche Artikel 1 Absatz 2 der Richtlinie. Dabei werden bestimmte nationale Vorschriften von der Richtlinie im Grundsatz nicht berührt. Darunter fallen beispielswese die Definition von Verschulden, das Beweismaß, die Kausalität, das Mitverschulden oder die Verjährung.

Ziel des Richtlinienvorschlags ist zudem eine sogenannte Mindestharmonisierung. Das bedeutet, dass der Kläger sich im Fall eines durch ein KI-System verursachten Schadens auf günstigere Vorschriften des nationalen Rechts berufen kann und nicht auf europäisches Recht verwiesen wird.

Was mit dem Begriff „KI-System“ genau gemeint ist, lässt sich dem KI-Act entnehmen. Darin wird definiert, was ein solches ist. Hierfür wird die Differenzierung zwischen Hochrisiko-KI-Systemen, Artikel 6 und Artikel 7 des KI-Acts (COM/2021/206) und KI-Systemen ohne Hochrisiko, Artikel 3 Absatz 1 KI-Act, übernommen.

Eines der Kernstücke der Richtlinie ist die Einführung einer Kausalitätsvermutung in Artikel 4 der Richtlinie. Sie dient der Erleichterung der Geltendmachung von Schadensersatzansprüchen des Geschädigten. Grundsätzlich obliegt der Kausalitätsnachweis dem Opfer. Dieser bezieht sich auf die Verantwortlichkeit bezüglich der Nichteinhaltung einer bestimmten für den Schaden relevanten Verpflichtung. Zudem ist erforderlich, dass ein ursächlicher Zusammenhang mit der KI-Leistung nach vernünftigem Ermessen wahrscheinlich ist. Wenn diese Voraussetzungen vorliegen, soll das Gericht davon ausgehen können, dass diese Nichteinhaltung den Schaden verursacht hat. Dadurch muss das Opfer keine komplexen KI-Systeme verstehen und erklären. Der haftbaren Person steht sodann die Möglichkeit offen, die benannte Vermutung zu widerlegen. Dies ist beispielsweise durch den Nachweis möglich, dass der Schaden gerade eine andere Ursache hatte.

Das zweite Kernstück der Richtlinie ist das Recht auf Zugang von Beweismitteln in Artikel 3. Dafür muss ein Fall vorliegen, in dem ein Hochrisiko-KI-System, vergleiche Artikel 6 des KI-Act, betroffen ist. Damit soll der Betroffene beim Gericht beantragen können, dass Informationen über dieses Hochrisiko-KI-System offengelegt werden sollen, wodurch die Verursachung eines Schadens nachgewiesen werden kann. Mithilfe dieser herausgegebenen Informationen sollen die Opfer die Schadensursache herausfinden können. Solche Anträge müssen jedoch auch bestimmte Anforderungen erfüllen. Zum einen müssen Tatsachen und Beweismittel genannt werden, die die Plausibilität des in Betracht gezogenen Schadensersatzanspruches belegen. Zum anderen muss der Geschädigte zuvor vergeblich versucht haben, über den Anbieter oder den Nutzer direkt an diese Informationen zu gelangen. Die Herausgabepflicht unterliegt jedoch insoweit den Grenzen der Herausgabepflicht von Informationen, also allgemeinen geeigneten Garantien zum Schutz sensibler Informationen, wie beispielsweise Geschäftsgeheimnisse.

Der Umsetzungszeitraum der Richtlinie zur Haftung beim Einsatz von KI beträgt zwei Jahre nach Inkrafttreten der Richtlinie.

Was sind die Eckpunkte des zweiten Richtlinienvorschlages zur Produkthaftung?

Hintergrund dieser neuen Richtlinie ist, dass es viele Entwicklungen im Zusammenhang mit neuen Technologien gibt. Darunter fallen Produkte, die Software oder digitale Dienste benötigen, um zu funktionieren, wie zum Beispiel intelligente Geräte oder autonome Fahrzeuge. Dafür sind die bisherigen Haftungsvorschriften jedoch zu veraltet. Daher wird die alte Produkthaftungsrichtlinie mit der neuen Produkthaftungsrichtlinie ersetzt. Auch hier sollten die zentralen Elemente überblicksartig erfasst werden.

Der Richtlinienvorschlag gilt für verschuldensunabhängige zivilrechtliche Schadensersatzansprüche. Adressaten dieser Ansprüche können die Hersteller wegen Personenschäden, Sachschäden oder Datenverlusten sein. Die Schäden müssen hierbei durch die fehlerhaften Produkte verursacht worden sein. Dies schließt Arzneimittel, landwirtschaftliche Produkte, Software und KI-Systeme ein. Im Ergebnis setzt die Richtlinie eine neue Definition des Wortes „Produktes“ fest. So sind jegliche Produkte vom Wasserschlauch bis hin zu modernen KI-Maschinen erfasst. Der Begriff wird so an das digitale Zeitalter angepasst. Denn es werden auch Produkte berücksichtigt, die aus Unternehmen der Kreislaufwirtschaft stammen. Dies gilt insbesondere für Geschäftsmodelle, in denen Produkte verändert oder aktualisiert werden. Solche Unternehmen haften, falls diese Produkte Schäden verursachen. Die Haftung entfällt erst beim Nachweis, dass der Mangel auf einen nicht modifizierten Teil des Produkts zurückgeht.

Der Umfang und die Definition des Schadens werden durch Artikel 4 Absatz 6 der neuen Produkthaftungsrichtlinie erweitert. Erfasst sind Personen- und Sachschäden sowie der Datenverlust. Bei Personenschäden soll die Entschädigung von Körperverletzungen explizit auch medizinisch anerkannte Schäden an der psychischen Gesundheit umfassen. Im Rahmen von Sachschäden soll die Beschränkung auf privat genutzte Güter entfallen. Der Ersatz von Schäden aufgrund des Verlusts oder der Beschädigung von Daten, die nicht ausschließlich zu beruflichen Zwecken verwendet werden ist umfasst. Der bisherige Schwellenwert von 500,00 € und eine Obergrenze sollen abgeschafft werden. Denn diese Obergrenze hat bisher eine volle Entschädigung für erlittene Schäden verhindert. Die Haftung soll insbesondere auch nach Markteinführung des Produkts fortbestehen. Abzudecken sind danach auch Software-Updates, die Behebung von Cybersicherheitsrisiken und maschinelles Lernen. Im Rahmen der Beweislast soll unter anderem eine Vermutung der Fehlerhaftigkeit und der Kausalität in bestimmten Fällen eingeführt werden. Dies ist Artikel 9 der neuen Produkthaftungsrichtlinie zu entnehmen. Die Nachweispflicht des Klägers umfasst grundsätzlich die Fehlerhaftigkeit des Produkts, die erlittenen Schäden und den Kausalzusammenhang zwischen der Fehlerhaftigkeit und dem Schaden, vergleiche Artikel 9 Absatz 1. In Absatz 2 des Artikels 9 ist die Vermutung der Fehlerhaftigkeit des Produkts in bestimmten Fällen beispielhaft aufgezählt. Damit greift die Vermutung, wenn der Hersteller nicht die erforderlichen Informationen zur Verfügung stellt, das Produkt nicht die Sicherheitsanforderungen des EU-Rechts oder nationalen Rechts erfüllt oder es feststeht, dass das Produkt fehlerhaft ist und der verursachte Schaden typischerweise mit dem betreffenden Fehler einhergeht. Hierbei besteht eine Offenlegungspflicht des Herstellers, um die Informationsasymmetrie zwischen Herstellern und Verbrauchern abzubauen. Die Pflicht bezieht sich auf die zur Verfügung stehenden relevanten Beweise. Dafür muss der Kläger zuvor allerdings die Plausibilität des Schadensersatzanspruches dargelegt haben. Es gibt hingegen auch Ausnahmen von der Haftung. Diese sind in Artikel 10 der neuen Produkthaftungsrichtlinie aufgezählt.

Die Verjährung der Ansprüche ist in Artikel 14 der neuen Richtlinie zu finden. Die Regelverjährung beträgt drei Jahre, ab dem Tag, an dem der Kläger von dem Schaden, dem Fehler und der Identität des Herstellers Kenntnis erlangt hat oder hätte erlangen müssen. Zehn Jahre nach dem Inverkehrbringen des fehlerhaften Produkts läuft diese Haftungsfrist jedoch ab. Dies gilt dann nicht, wenn ein Gerichtsverfahren eingeleitet wurde. Ist der Schaden nicht sofort erkennbar, beträgt diese Verjährungsfrist 15 Jahre statt zehn.

Zuletzt dient die Richtlinie der Schaffung einheitlicher Wettbewerbsbedingungen für Hersteller in EU- und Nicht-EU-Ländern. Bisher hafteten die Einführer für fehlerhafte Produkte, die außerhalb der Union hergestellt werden. Dies wird insoweit im neuen Vorschlag beibehalten. Allerdings sollen Verbraucher von einem EU-Vertreter eines nicht in der EU ansässigen Herstellers eine Entschädigung verlangen können. Subsidiär sollen sich Geschädigte an Erfüllungsdienstleister, sogenannte „fulfillment service providers“, wenden können.

Die Richtlinienvorschläge werden im Kommissionskollegium umfangreich befürwortet. Der für den Binnenmarkt zuständige Kommissar Thierry Breton sagte zutreffend, dass die aktualisierte Produkthaftung, als einer der Eckpfeiler des Binnenmarkts, dafür sorgt, den Herausforderungen der kommenden Jahrzehnte gewachsen zu sein. So werden „die neuen Vorschriften den globalen Wertschöpfungsketten entsprechen, Innovationen und das Vertrauen der Verbraucher fördern und Unternehmen, die am ökologischen und digitalen Wandel beteiligt sind, mehr Rechtssicherheit bieten.“, so Thierry Bretton.

Allerdings muss der Kommissionsvorschlag noch vom Europäischen Parlament und vom Rat angenommen werden. Nach Artikel 5 der KI-Richtlinie wird die Kommission im Bedarfsfall fünf Jahre nach Inkrafttreten der Richtlinie über die KI-Haftung prüfen, ob weitere Regeln für die verschuldensunabhängige Haftung für Ansprüche im Zusammenhang mit KI erforderlich sind. Selbiges gilt für die neue Produkthaftungsrichtlinie nach Artikel 16.