Fehler von KI-Agenten sind oft nicht versichert

Mit der zunehmenden Verbreitung von KI-Tools im Business-Alltag werden Logiken bestehender Versicherungsdeckungen zunehmend infrage gestellt. Darauf weist Phil Dawson hin, seines Zeichens Leiter für KI-Strategie und Partnerschaften beim Spezialversicherer Armilla.

KI-Risiken werden ausgelagert

KI-bezogene Haftungsrisiken werden bislang weitgehend implizit in Versicherungspolicen berücksichtigt, was als «stille Deckung» bezeichnet wird, so Analystin Sonal Madhok und Rechtsprofessorin Anat Lior an der Drexel University. Das ändert sich jetzt. Einige Versicherungen lagern dieses Risiko aus. «Wir können davon ausgehen, dass Policen in naher Zukunft ausdrücklich auf KI eingehen und damit die Ära der stillschweigenden Deckung beendet wird», erklären Mehok und Lior.

Einige Standardversicherungspolicen enthielten mittlerweile Klauseln zum «absoluten KI-Ausschluss», die den Versicherungsschutz für KI-bezogene Pannen ausdrücklich ausschlössen, meint auch Jonathan Mitchell, Leiter des Finanzsektors bei der Maklerfirma Founder Shield. Dawson führt das Beispiel eines gewerblichen Immobilienunternehmens an, das versuchte, seinen KI-Agenten als regulären Mitarbeiter zu versichern, aber auf eine Spezialpolice zurückgreifen musste.

Einige Versicherer weigern sich

Der Umfang solcher Policen kann gegen Aufpreis über Computernetzwerke hinaus auf Schäden in der realen Welt ausgeweitet werden, beispielsweise wenn eine KI versehentlich zu viel Ware bestellt und das Lager überquillt. Armilla testet KI-Modelle auf Schwachstellen, bevor sie eine Deckung gewährt, und bewertet, ob das Risiko-Management-Framework des Kunden internationalen Standards entspricht.

Doch wie andere Versicherer auch kann Armilla die Übernahme bestimmter Risiken ablehnen. So verweigert das Unternehmen beispielsweise die Deckung von Risiken im Zusammenhang mit medizinischer Diagnostik oder Anwendungen im Bereich der psychischen Gesundheit.

«Das Risiko, dass ein Modell Fehler macht oder halluziniert, lässt sich technisch nicht vollständig vermeiden», zeigt Michael von Gablenz, Leiter des Bereichs KI-Versicherung beim Rückversicherer Munich Re, Verständnis für diese Haltung von Versichererkollegen. «KI-Systeme sind letztendlich statistische Modelle, und jedes statistische Modell birgt Unsicherheiten», so der Experte abschliessend. (pressetext.com)