Risiken und Nebenwirkungen von KI

Die EU plant eine neue Haftungsrichtlinie, um den Umgang mit Künstlicher Intelligenz (KI) im zivilrechtlichen Bereich und insbesondere die Haftung für verursachte Schäden in den Mitgliedstaaten zu harmonisieren. Die «Richtlinie zur Anpassung der Vorschriften über ausservertragliche zivilrechtliche Haftung an Künstliche Intelligenz» soll vor allem zwei zentrale Punkte adressieren: Offenlegungspflichten und Beweiserleichterungen. Sie will, dass der sogenannte Blackbox-Effekt von KI-Systemen tendenziell eher die Klägerin begünstigt, da die Anspruchsdurchsetzung bereits bei mangelndem Gegenbeweis des Anbieters erfolgreich sein kann.

Offenlegung von Beweisen

Die Offenlegungspflichten sollen es Geschädigten ermöglichen, bei einer Klage vor Gericht die Plausibilität ihres Schadenersatzanspruches belegen zu können. Dazu können Gerichte die Anbieter von KI-Systemen anweisen, angemessen detaillierte Informationen über die Funktionsweise, die Datengrundlagen und die Entscheidungsprozesse ihrer Systeme bereitzustellen. Dies betrifft insbesondere die sogenannten Blackbox-Systeme, bei denen die internen Prozesse schwer nachvollziehbar sind. Kommt ein beklagter Anbieter dieser Aufforderung nicht ausreichend nach, so kann im Gerichtsverfahren zulasten des Anbieters beispielsweise ein Verstoss gegen Sorgfaltspflichten vermutet werden.

Beweiserleichterungen

Ein weiterer Schwerpunkt der Richtlinie liegt auf den Beweiserleichterungen für Geschädigte. Aufgrund der Komplexität, autonomen Funktionsweise und Intransparenz von KI-Systemen wird es oft schwierig sein, einen ursächlichen Zusammenhang (Kausalität) zwischen dem Schaden und dem Verschulden des KI-Anbieters nachzuweisen. Dies ist aber Voraussetzung für einen Schadenersatzanspruch. Die Richtlinie sieht daher als Beweiserleichterung vor, dass diese Kausalität unter gewissen Voraussetzungen vermutet wird. Wenn beispielsweise ein KI-System in einem Hochrisikobereich versagt und dadurch ein Schaden entsteht, wird vermutet, dass das KI-System fehlerhaft war, es sei denn, der Anbieter kann das Gegenteil beweisen. Diese Umkehr der Beweislast soll Geschädigten die Durchsetzung von Ansprüchen erleichtern.

Auswirkungen auf Unternehmen

Die Richtlinie, die in jedem Mitgliedstaat der EU noch national umgesetzt werden muss, soll zur Harmonisierung der Haftungsvorschriften innerhalb der EU beitragen und so grenzüberschreitend tätigen Unternehmen Rechtssicherheit bieten. Für Unternehmen, die KI-Systeme in der EU oder für ­Kunden in der EU anbieten oder einsetzen, bedeutet dies eine erhöhte Sorgfaltspflicht bei Entwicklung und Betrieb dieser Systeme. Viele Unternehmen werden auf KI-Systeme von Drittanbietern zurückgreifen. Bei solchen Szenarien ist es essenziell, dass Anbieter die Offenlegungspflichten im Ernstfall erfüllen können und sich Unternehmen entsprechend absichern.

Für Schweizer Unternehmen, die in der EU tätig sind oder mit EU-Unternehmen zusammenarbeiten, ist es deshalb wichtig, sich frühzeitig mit diesen neuen Regelungen auseinanderzusetzen und ihre Compliance-Strategien entsprechend anzupassen. Ausserdem sollten sie sich auch vertraglich gegenüber KI-Anbietern und Entwicklern absichern, um für die Abwehr möglicher Klagen vorbereitet zu sein. Und Anbieter von KI-Systemen können die Haftungsrisiken senken, indem sie dafür sorgen, dass ihre KI-Systeme nachvollziehbar arbeiten.

Fazit

Die geplante EU-KI-Haftungsrichtlinie stellt einen bedeutenden Schritt dar, um den rechtlichen Rahmen an die Herausforderungen und Risiken von KI (z.B. «Blackbox» Effekt) anzupassen. Durch die Einführung von Offenlegungspflichten und Beweiserleichterungen sollen Transparenz und Rechtssicherheit erhöht sowie der Schutz der Geschädigten verbessert werden. Obwohl der Zeitpunkt des Inkrafttretens der Richtlinie und der nationalen Umsetzung noch nicht feststeht, sollten sich Unternehmen bereits auf diese neuen Anforderungen einstellen, um Haftungsrisiken zu minimieren und die Chancen der KI-Technologien gesetzeskonform zu nutzen.