WERBUNG

Vorstoß für KI-Haftpflichtversicherung

27.10.2020 – Mit hohem Risiko behaftete KI-Technologien seien derzeit zwar noch selten, sagt das EU-Parlament, einen Rechtsrahmen dafür will es aber schon jetzt schaffen: In einem Vorschlag für eine EU-Verordnung fordert es, dass Betreiber derartiger Systeme verpflichtet werden, „Versicherungen nach dem Vorbild der für Kraftfahrzeuge vorgeschriebenen Versicherungen abzuschließen“.

Der zunehmende Einsatz „intelligenter“ digitaler Systeme beschäftigt den Gesetzgeber: Das EU-Parlament (EP) hat letzte Woche mit großer Mehrheit eine entsprechende Entschließung angenommen.

Der mit 626 Pro- bei 25 Gegenstimmen und 40 Enthaltungen verabschiedete Text enthält einen Vorschlag für eine EU-Verordnung über die Haftung beim Einsatz künstlicher Intelligenz (KI).

Definiert ist „KI-System“ hierbei als ein „softwaregestütztes oder in Hardware-Geräte eingebettetes System, das ein Intelligenz simulierendes Verhalten zeigt, indem es unter anderem Daten sammelt und verarbeitet, seine Umgebung analysiert und interpretiert und mit einem gewissen Maß an Autonomie Maßnahmen ergreift, um bestimmte Ziele zu erreichen“.

„Größtmögliche Sicherheit in der gesamten Haftungskette“

Das EP argumentiert, es müsse für „größtmögliche Rechtssicherheit in der gesamten Haftungskette, einschließlich des Herstellers, des Betreibers, der betroffenen Person und sonstiger Dritter“ gesorgt sein.

Zwischen dem „Schutz der Bürger einerseits und der Förderung von Unternehmen bei Investitionen in Innovationen, insbesondere in KI-Systeme, andererseits“ müsse ein Gleichgewicht sichergestellt sein.

Wer Hochrisiko-KI-Systeme betreibt, soll haftpflichtversichert sein

Angesichts des „erheblichen Potenzials, Schaden anzurichten“, sollten „alle Betreiber von im Anhang der vorgeschlagenen Verordnung aufgeführten KI-Systemen mit hohem Risiko eine Haftpflichtversicherung besitzen“, sagt das Parlament.

„Hohes Risiko“ heißt: ein „signifikantes Potenzial“ eines autonom betriebenen KI-Systems, einer oder mehreren Personen einen Personen- oder Sachschaden „auf eine Weise zu verursachen, die zufällig ist und darüber hinausgeht, was vernünftigerweise erwartet werden kann“.

Auszüge aus dem Entwurf für eine EU-Verordnung zur Haftung für den Betrieb von KI-Systemen

Artikel 4: Verschuldensunabhängige Haftung für KI-Systeme mit hohem Risiko

Artikel 5: Entschädigungsbetrag bei Schäden durch KI-Systeme mit hohem Risiko

1. Der Betreiber eines KI-Systems mit hohem Risiko unterliegt verschuldensunabhängiger Haftung für alle Personen- oder Sachschäden, die von einer von dem KI-System angetriebenen physischen oder virtuellen Aktivität, Vorrichtung oder Prozess verursacht wurden.

2. Alle KI-Systeme mit hohem Risiko sowie alle kritischen Sektoren, in denen diese zum Einsatz kommen, sollen in dem Anhang der Verordnung aufgeführt werden. […]

[…]

4. Der Frontend-Betreiber eines KI-Systems mit hohem Risiko stellt sicher, dass der Betrieb dieses KI-Systems durch eine Haftpflichtversicherung abgedeckt ist, die im Verhältnis zu den Beträgen und dem Umfang der Entschädigung nach den Artikeln 5 und 6 dieser Verordnung angemessen ist. Der Backend-Betreiber stellt sicher, dass seine Dienste durch eine Betriebshaftpflicht- oder Produkthaftpflichtversicherung gedeckt sind, die im Verhältnis zu den Beträgen und dem Umfang der Entschädigung nach den Artikeln 5 und 6 dieser Verordnung angemessen ist. Ist davon auszugehen, dass eine bereits nach anderen Rechtsvorschriften der Union oder des betreffenden Mitgliedstaats bestehende Pflichtversicherung des Frontend- oder Backend-Betreibers oder bestehende freiwillige Unternehmensversicherungsfonds den Betrieb des KI-Systems oder die erbrachte Dienstleistung abdecken, gilt die Verpflichtung zum Abschluss einer Versicherung für das KI-System oder die erbrachte Dienstleistung gemäß dieser Verordnung als erfüllt, solange die einschlägige bestehende Pflichtversicherung oder der freiwillige Unternehmensversicherungsfonds die Beträge und den Umfang der Entschädigung gemäß den Artikeln 5 und 6 dieser Verordnung abdeckt.

[…]

1. Der Betreiber eines KI-Systems mit hohem Risiko, der gemäß dieser Verordnung für Personen- oder Sachschäden haften muss, ist zu folgenden Entschädigungen verpflichtet:

a) bis zu einem Höchstbetrag von zwei Mio. EUR bei Tod oder Beschädigung der Gesundheit oder körperlichen Unversehrtheit einer betroffenen Person infolge des Betriebs eines KI-Systems mit hohem Risiko;

b) bis zu einem Höchstbetrag von einer Mio. EUR im Falle eines erheblichen immateriellen Schadens, der zu einem nachweisbaren wirtschaftlichen Verlust führt, oder eines Sachschadens, auch wenn mehrere Sachwerte einer betroffenen Person infolge eines einzigen Vorgangs eines einzigen KI-Systems mit hohem Risiko beschädigt wurden; wenn der betroffenen Person auch ein vertraglicher Haftungsanspruch gegen den Betreiber zusteht, ist keine Entschädigung nach dieser Verordnung zu leisten, wenn die Gesamthöhe des Schadens am Eigentum oder des erheblichen immateriellen Schadens weniger als [500 EUR]* beträgt.

2. Übersteigt die an mehrere Personen, die einen von dem gleichen Betrieb des gleichen KI-Systems mit hohem Risiko verursachten Personen- oder Sachschaden erlitten haben, zu entrichtende Gesamtentschädigung die in Absatz 1 festgelegten Höchstbeträge, so werden die an jede Einzelperson zu entrichtenden Beträge anteilig so verringert, dass die Gesamtentschädigung nicht die in Absatz 1 festgelegten Höchstbeträge übersteigt.

Haftung bei „anderen“ KI-Systemen

Regelungen für „andere“, also nicht „Hochrisiko“-KI-Systeme enthält Artikel 5.

Der Betreiber eines solchen „anderen“ KI-Systems unterläge demnach „für alle Personen- oder Sachschäden, die durch eine von dem KI-System angetriebene physische oder virtuelle Aktivität, Vorrichtung oder einen entsprechenden Prozess verursacht wurden, der verschuldensabhängigen Haftung“.

Einen verpflichtenden Versicherungsschutz sieht der Verordnungsentwurf in diesem Zusammenhang nicht vor.

Strengere nationale Rechtsvorschriften und Verbraucherschutzvorschriften sollten nach Vorstellung des Parlaments von dieser Regelung unberührt bleiben.

Europäischer Versicherer-Verband skeptisch

Der europäische Versicherer-Verband Insurance Europe reagierte auf den Vorschlag mit Skepsis: Er hält den Ruf nach einer verpflichtenden KI-Versicherung für verfrüht. Generaldirektorin Michaela Koller nannte dafür zwei Gründe.

Erstens: Damit eine Pflichtversicherung funktioniert, müsse es genug Risikodaten geben wie etwa in der Kfz-Haftpflicht, wo man im Underwriting auf Schadendaten aus Jahrzehnten zurückgreifen könne. Hochrisiko-KI-Systeme seien hingegen erst in Entwicklung, eine vergleichbare Datenmenge nicht vorhanden.

Zweitens: Risiken, die von einer Pflichtversicherung gedeckt werden, müssten einander ihrer Art nach ausreichend ähnlich sein, um in einem „One size fits all“-Ansatz gedeckt werden zu können. Da KI aber in so vielfältiger Weise verwendet werde, seien die Risiken daraus in verschiedenen Situationen sehr unterschiedlich.

„Vor diesem Hintergrund“, so Koller, „sind wir der Auffassung, dass der Ruf des Parlaments nach einer Pflichtversicherung für Hochrisiko-KI in der Praxis nicht funktionieren würde.“

Kommission soll mit Versicherungssektor zusammenarbeiten

Den Mangel an Risikodaten räumt auch das EP ein: Kombiniert mit Ungewissheit über künftige Entwicklungen gestalte es dieser Mangel für die Versicherungsbranche schwierig, angepasste oder neue Produkte auf den Markt zu bringen.

Seine Schlussfolgerung: Die EU-Kommission sollte „eng mit der Versicherungsbranche zusammenarbeiten“, um herauszufinden, „wie Daten und innovative Modelle genutzt werden können, um Versicherungspolicen zu entwickeln, die eine angemessene Deckung zu einem erschwinglichen Preis bieten“.

Ein „verbesserter Zugang zu durch neue Technologien generierten Daten und eine bestmögliche Nutzung dieser Daten in Verbindung mit einer Verpflichtung zur Bereitstellung hinreichend dokumentierter Informationen“ würde es nach Ansicht des EP „den Versicherern erleichtern, aufkommende Risiken zu modellieren und die Entwicklung von innovativeren Schutzmodalitäten zu fördern“.

In Ausnahmefällen sollen staatliche Entschädigungsfonds helfen

In Ausnahmefällen, „beispielsweise bei einem massiven Schadensereignis, bei dem die Entschädigung deutlich über den in dieser Verordnung festgelegten Höchstbeträgen liegt“, sollten nach Ansicht des EP die Staaten „aufgefordert werden, für eine begrenzte Zeit einen besonderen Entschädigungsfonds einzurichten, der die spezifischen Bedürfnisse dieser Fälle abdeckt“.

Besondere Entschädigungsfonds könnten auch eingerichtet werden, „um außergewöhnliche Fälle abzudecken, in denen ein KI-System, das noch nicht als KI-System mit hohem Risiko eingestuft und daher noch nicht versichert ist, einen Personen- oder Sachschaden verursacht“.

Weiterführende Information

Die vom EP angenommene Entschließung, einschließlich des Verordnungsvorschlags, ist auf einer Webseite des Europäischen Parlaments abrufbar.

Schlagwörter zu diesem Artikel
Berufsverband · Betriebshaftpflicht · Gesundheitsreform · Haftpflichtversicherung
 
WERBUNG
WERBUNG
Ihr Wissen und Ihre Meinung sind gefragt

Ihre Leserbriefe können für andere Leser eine wesentliche Ergänzung zu unserer Berichterstattung sein. Bitte schreiben Sie Ihre Kommentare unter den Artikel in das dafür vorgesehene Eingabefeld.

Die Redaktion freut sich auch über Hintergrund- und Insiderinformationen, wenn sie nicht zur Veröffentlichung unter dem Namen des Informanten bestimmt ist. Wir sichern unseren Lesern absolute Vertraulichkeit zu! Schreiben Sie bitte an redaktion@versicherungsjournal.at.

Allgemeine Pressemitteilungen erbitten wir an meldungen@versicherungsjournal.at.

Täglich bestens informiert!

Der VersicherungsJournal Newsletter informiert Sie von montags - freitags über alle wichtigen Themen der Branche.

Ihre Vorteile

  • Alle Artikel stammen aus unserer unabhängigen Redaktion
  • Die neuesten Stellenangebote
  • Interessante Leserbriefe

Jetzt kostenlos anmelden!

VersicherungsJournal in Social Media

Besuchen Sie das VersicherungsJournal auch in den sozialen Medien:

  • Facebook – Ausgewähltes für den Vertrieb
  • Twitter – alle Nachrichten von VersicherungsJournal.at
  • Xing News – Ausgewähltes zu Karriere und Unternehmen
Diese Artikel könnten Sie noch interessieren
15.5.2018 – Ein nicht vorgelegtes Protokoll, die Frage, ob ein bestimmtes Gerät für eine Baustelle geeignet war, und die Beauftragung des Bauleiters mit dessen Überprüfung führten dazu, dass eine Haftpflichtversicherung nach einem Brand in einem Kraftwerk die Deckung verweigerte. Der OGH musste entscheiden, ob dies zu Recht geschah. mehr ...
 
3.12.2014 – Ausrutscher auf verschneiten Wegen, gefrierende Leitungen, herabfallende Äste, Kollisionen auf der Skipiste: Der Winter bringt eine Reihe besonderer Risiken mit sich. Will man Haftungsprobleme vermeiden, sind diverse Pflichten zu beachten. mehr ...