Ein rechtlicher Rahmen für künstlich intelligente Versicherung

13.11.2023 – Viel und oft ist in der Versicherungsbranche die letzten Jahre von Digitalisierung die Rede gewesen. Allianz-Vorstandschef Remi Vrignaud vermisst indes die „digitale Dividende“. Gleichwohl sieht er für die Zukunft Chancen und Herausforderungen. Zu letzteren dürften auch kommende Vorschriften gehören, die der Nutzung künstlicher Intelligenz einen rechtlichen Rahmen geben sollen, allerdings „kein Lesevergnügen“ sind, wie Prof. Christian Armbrüster sagt.

: Bild: Gerd Altmann auf Pixabay

Ein „doppeltes Narrativ“ sei durch die Digitalisierung erzeugt worden: zum einen die Schaffung neuer Elemente in bestehenden Geschäftsmodellen, zum anderen die grundlegende Transformation des Geschäftsmodells.

Das sagte Remi Vrignaud, Vorstandsvorsitzender der Allianz-Gruppe Österreich, letzten Donnerstag beim diesjährigen „Versicherungswissenschaftliche Symposion“ der Gesellschaft für Versicherungsfachwissen in Graz.

„Wir haben als Branche ein digitales Update geschaffen“, nirgends werde nicht an irgendeiner Stelle „digitalisiert“. Allerdings stellte er auch in Frage, „dass wir das Geschäftsmodelle radikal und grundlegend geändert haben“.

Vrignaud vermisst „digitale Dividende“

Nun wird ja schon sehr lange über Digitalisierung gesprochen, und vieles von dem, worüber diskutiert werde, sei in Versicherungsunternehmen schon lange im Einsatz. Das veranlasste Vrignaud zu der Frage: „Wo bleibt die digitale Dividende?“

Seine eher ernüchternde Antwort: „In Österreich vermisse ich sie.“ Die digitale Dividende, „von der wir die letzten zehn Jahre geredet haben“, sehe er nicht.

Wohl aber sieht er für die Zukunft Chancen und künstliche Intelligenz (KI) als Treiber – in der Kundenservicierung, in der Fehlervermeidung, in der Schadenbearbeitung, im Underwriting etwa. „Daten, IT, Digital – das ist die Zukunft.“

„Unsere Branche ist stark wie noch nie“, sie sei „immer gestärkt aus jeder Krise hervorgegangen“, so Vrignaud. „Das ist die reale Dividende, die letztlich auch zählt.“

Die KI-VO

Neben Chancen bringen Digitalisierung und KI auch Herausforderungen mit sich – im Risikomanagement beispielsweise und nicht zuletzt mit Blick auf die Regulierung, hielt Vrignaud fest.

So laufen auf europäischer Ebene seit einiger Zeit Bemühungen, mit dem technologischen Fortschritt auf diesem Gebiet in regulatorischer Hinsicht Schritt zu halten.

Eines dieser Gesetzeswerke, die der KI einen rechtlichen Rahmen geben sollen, ist die geplante EU-Verordnung mit dem Titel „Gesetz über künstliche Intelligenz“. Der Entwurf der Kommission stammt aus dem Jahr 2021.

Die Vorlage ist derzeit Gegenstand der Beratungen zwischen Kommission, Ministerrat und Parlament. Was sie außerdem noch ist: „kein Lesevergnügen“, wie Prof. Christian Armbrüster von der Freien Universität Berlin in seinem Vortrag sagte.

Vier Arten von KI

Das Regelwerk soll, wenn es – voraussichtlich 2026 – in Kraft tritt, einheitliche Anforderungen an den Einsatz von KI in der EU stellen und so für ein „level playing field“ sorgen. Allerdings sei es „sehr komplex aufgebaut“.

Wie Armbrüster weiter ausführte, folgt die KI-Verordnung einem regelbasierten Ansatz, in dem vier Arten von KI unterschieden werden können:

risikoarme KI, für die mit freiwilligen Verhaltenskodizes das Auslangen gefunden werden soll;
begrenzt riskante KI,
Hochrisiko-KI, die mit hohen Risiken für Gesundheit und Sicherheit verbunden ist, und schließlich
verbotene KI, die eine klare Bedrohung für Sicherheit, Lebensgrundlage und Rechte der Menschen brächte.

An Hochrisiko-KI stellt die Verordnung Anforderungen unter anderem in den Bereichen Risikomanagement, Daten-Governance, Aufzeichnungspflichten, Transparenz, Genauigkeit, Robustheit und Cybersicherheit sowie „menschliche Aufsicht“.

Kranken- und Lebensversicherung als Hochrisiko-KI-Kandidaten

Nun habe die EU-Kommission die Versicherungsbranche ursprünglich nicht als Kandidatin für eine Einstufung als Hochrisiko-KI-Sektor gesehen.

Auch die EU-Versicherungsaufsicht habe keinen Anlass gesehen, versicherungsspezifische Anwendungsfälle als hochriskant zu qualifizieren, die sich zudem ohnehin nicht in unreguliertem Raum bewege.

Dann sei aber der „Paukenschlag“ gekommen, indem der Rat auch den Versicherungssektor in der Kategorie „hochriskante KI“ habe sehen wollen. 2022 habe man dann den Standpunkt eingenommen, dass, wenn schon nicht alle Sparten, so doch Kranken- und Lebensversicherung in diesem Sinn eingestuft werden sollen.

Dem habe sich das Parlament angeschlossen, sodass dies zumindest derzeit der aktuelle Stand der Verhandlungen sei.

Negative Effekte für Versicherte befürchtet

Das Argument lautet: KI-Anwendungen könnten durch Entscheidungen über Ansprüche von Versicherten sehr wohl erhebliche Auswirkungen auf diese haben.

Befürchtet werde unter anderem, dass KI Differenzierungen vornehmen könnte, die dem Ziel der Antidiskriminierung zuwiderlaufen. So wäre denkbar, dass die Algorithmen Diskriminierungen aufgrund persönlicher Merkmale, etwa anhand ethnischer Gesichtspunkte, vornehmen.

Der Gesamtverband der Deutschen Versicherungswirtschaft (GDV) wiederum befürchtet, dass Versicherer, die sogenannte „Basismodelle“ wie beispielsweise GPT einsetzen, unter Umständen selbst als Anbieter von Basismodellen qualifiziert werden könnten, mit allen damit verbundenen rechtlichen Anforderungen.

Auswirkungen vor allem auf Versicherer, weniger auf Vermittler

Für Versicherungsunternehmen könnte sich also eine Reihe von Implikationen ergeben. Als potenzielle KI-Anwendungsfelder nannte Armbrüster die Schadenregulierung, Underwriting und Tarifierung, Dunkelverarbeitung sowie Personal- und Bewerbermanagement.

Versicherungsvermittler dürften nach seiner Einschätzung indes kaum betroffen sein, wobei sich für sie aber etwa beim Einsatz von Chatbots Berührungspunkte ergeben könnten. Das eigentliche „Problem“ liege für Vermittler jedoch anderswo: in der Erfüllung der Pflichten im Rahmen der Beratung gemäß der Versicherungsvertriebsrichtlinie (IDD).

Fazit: Die geplante Verordnung hätte partiell Auswirkungen auf den Versicherungssektor, es sei sinnvoll, sich schon jetzt auf absehbare kommende Anforderungen vorzubereiten.