ChatGPT & Co.: Vormarsch generativer KI beschäftigt auch die Versicherungswirtschaft

Sind Versicherungsmakler:innen von den neusten Cyber-Sicherheitsregeln der EU betroffen?ChatGPT & Co.:
Vormarsch generativer KI beschäftigt auch die Versicherungswirtschaft

– Was bedeutet das für Versicherungsmakler:innen?

Liebe Mandantinnen und Mandanten,
liebe Versicherungsmaklerinnen und Versicherungsmakler,

es waren die Jahre 2014 und 2015 als der Welt die heute omnipräsenten Sprachassistenten Siri, Alexa und Cortana vorgestellt worden sind. Etwa zur gleichen Zeit gründeten Unternehmer wie Elon Musk und Peter Thiel die Stiftung OpenAI mit dem Betreiben, die Entwicklung künstlicher Intelligenz (KI) in geordnetem Rahmen voranzutreiben. Nahezu zehn Jahre später kennt OpenAI niemand mehr als Stiftung. Dieser Tage macht nur noch deren gewerbliche Tochter, die OpenAI Global LLC, Schlagzeilen. Mit ChatGPT vertreibt sie ein Produkt, das nicht nur in einem Wimpernschlag mehr als 100 Millionen Nutzer gewonnen hat, sondern mit Großinvestor Microsoft auch die Aktienkurse des wahrscheinlich bedeutendsten Unternehmens der Welt sichtbar beeinflusst.

Es lässt sicher daher mit Überzeugung sagen, dass die künstliche Intelligenz unlängst keine Domäne der Forschung mehr ist, sondern eine immer zu wachsende Sparte der Technologiewirtschaft darstellt. Insbesondere die Weiterentwicklung so-genannter generativer KI, bei der aus einem Prompt, einem menschlichen Befehl, Erzeugnisse aus Text oder Bild geschaffen werden, hat in den Jahren 2022 und 2023 für Furore gesorgt. Mit dem Roll-out von ChatGPT-3 wurde das mit der KI verbundene Versprechen des Produktivitätszugewinns erstmals einer breiten Masse zugänglich. Dennoch hat sich eine ungewöhnliche Gemengelage eingestellt: KI ist zwar als Gegenstand von Innovation und Politik in jedermanns Munde, aber die ganz großen praktischen Umsetzungen sind im Makleralltag meist noch nicht spürbar. Es fühlt sich ein wenig wie die berühmte Ruhe vor dem Sturm an. Geht es Ihnen nicht auch so?

Generative KI wird großen Einfluss auf die Versicherungswirtschaft haben

Ob man es nun Sturm, Sonnenaufgang oder schlichtweg Fortschritt nennen möchte – fachkundige Experten sind sich unisono sicher: KI wird nicht nur unseren Alltag, sondern auch das Wirtschaftsleben bald verändern. Einige Beobachter erblicken im Aufkommen der KI eine Innovationswelle, die der Entwicklung von Elektrizität und Luftfahrt gleichkommt. Die Versicherungswirtschaft gilt als eine der Branchen, in der KI am zügigsten flächendeckend zur Anwendung gelangen wird. Hierfür wird angeführt, dass die großen Datenmengen, die heute schon in der Versicherungswirtschaft verarbeitet werden, sowie die hohe Anzahl wiederkehrender Vorgänge einen fruchtbaren Boden für KI-Einsatz bilden. Eine Studie des Weltwirtschaftsforums prognostiziert, dass mittelfristig ein Viertel aller Schadenfälle ohne menschliches Zutun abgewickelt werden – Gleiches gilt für den Vertragsabschluss. Dieselbe Studie folgert ebenso, dass weitere 50% aller Vertragsabschlüsse durch das Zusammenwirken von Mensch und KI zustande kommen werden. Nur 15% der Vertriebsszenarien werden noch ohne KI-Einsatz vonstattengehen.

Es kann dahinstehen, ob die Ergebnisse der zitierten Studie wirklich belastbar sind. Denn in jedem Fall ist klar, dass KI auch den Geschäftsalltag der Versicherungsmakler beeinflussen wird. Es empfiehlt sich daher aus unternehmerischer Perspektive, frühzeitig Weichen für den KI-Einsatz im eigenen Betrieb zu stellen. Horcht man in die Vermittlerbranche hinein, erfährt man, dass Makler entweder noch gar keine KI verwenden oder aber ChatGPT nutzen. Davon ausgehend stellt sich einerseits die Frage, welche Rechtsgrundlagen bei der künftigen Implementierung neuer KI-Anwendungen zu berücksichtigen sind und, was der Makler aus rechtlicher Sicht bei der Verwendung von ChatGPT schon heute beachten sollte.

EU plant wegweisende Rechtssetzung zur Verwendung von KI

Zunächst ist festzuhalten, dass es derzeit noch keine rechtlichen Spezialgesetze gibt, die den KI-Einsatz regulieren würden. Die EU hat sich selbst zum Vorreiter ernannt und will dieses Jahr noch den Artificial Intelligence Act verabschieden, der in 2026 in Kraft treten soll. Die EU schafft damit eine risiko-basierte Regulierung von KI. Je nachdem welches Risikopotenzial eine KI-Anwendung für Grundrechtsbeeinträchtigungen aufweist, desto strenger sollen die Regeln sein. Ein Blick in die ersten Veröffentlichungen zu den geplanten Inhalten verrät, dass die Auswirkungen des Artificial Intelligence Act für Makler nicht allzu gravierend sein dürften. Es ist absehbar, dass vor allem KI-Entwickler in die Pflicht genommen werden. Auf anwendende Makler kommen voraussichtlich eher nur weitere Transparenzpflichten gegenüber den Kunden zu. Weitergehende Pflichten könnten sich womöglich in der Vermittlung von biometrischen Risiken ergeben, z.B. in der Kranken- und Berufsunfähigkeitsversicherung, da KI-Anwendung mit Bezug zu Gesundheitsdaten in den Hochrisikobereich eingeordnet werden wird.

Mit Spannung erwarten wir als Kanzlei auch die von der EU-Kommission vorgeschlagene Richtlinie zur Haftung im Zusammenhang mit KI-Einsatz. Hier ist geplant, Klägern Beweiserleichterungen zukommen zu lassen, wenn Pflichtverletzungen im Zusammenhang mit KI-Einsatz stehen. Der Anspruchsteller soll einen Auskunftsanspruch gegen KI-Entwickler und KI-Verwender erhalten. Kommt der Anspruchsgegner dem Auskunftsanspruch nicht nach, wird die vorgeworfene Pflichtverletzung widerleglich vermutet. In die Voraussetzungen des nationalen Haftungsrechts soll hingegen nicht eingegriffen werden. Was Artificial Intelligence Act und KI-Haftungs-RL im Einzelnen mit sich bringen werden, bleibt abzuwarten. Zu diesem Zeitpunkt kann festgehalten werden, dass nicht nur in der KI-Entwicklung, sondern auch in deren rechtlichen Bewältigung Bewegung ist.

Anwendung allgemeiner Regeln auf KI ist komplex

In Ermangelung von Spezialgesetzen ist der KI-Einsatz den allgemeinen Regeln des deutschen Rechts unterworfen. Rechtsrisiken, die mit der Verwendung von KI assoziiert werden, sind beispielsweise: Datenschutzverletzungen, diskriminierende KI-Erzeugnisse, Urheber- und Markenrechtsverletzungen, Cyber-Betrug, Verbraucherrechtsverstöße und Haftung aufgrund von falschen Ergebnissen. Nach unserem Dafürhalten sind für Makler bei der Verwendung von ChatGPT vor allem der Datenschutz, das Urheberrecht und die Beratungshaftung von vornehmlicher Bedeutung. Datenschutzerklärungen sollten um ausdrückliche Einwilligungen in KI-Einsatz erweitert werden. Wenn der Makler ein Bedarf an urheberrechtlichem Schutz seiner Arbeitsergebnisse hat, sollte er den Rückgriff auf generative KI vermeiden, da deren Ergebnisse wohl urheberrechtlich nicht schutzfähig sind. Wird ChatGPT bei der Kundenberatung verwendet, sollten dessen Erzeugnisse von geschulten Beratern stets kritisch geprüft werden, denn die Anwendung produziert häufig noch sachlich unrichtige Ergebnisse.

Die Zukunftsfragen und rechtlichen Berührungspunkte im Zusammenhang mit dem Einsatz von KI sind so zahlreich und vielfältig, dass diese selbstverständlich nicht in einem Newsletter aufgearbeitet werden können. Wir hoffen allerdings, Sie hiermit für die Tragweite der kommenden Entwicklungen und der etwaig für Sie entstehenden rechtlichen Implikationen ein wenig sensibilisiert zu haben.

Online-Weiterbildungshinweis

Wer diesbezüglich noch mehr erfahren möchte, den lade ich ein, sich in den Vortrag meines Kollegen, Vincent Jacobsen, am 09. August 2024 um 10:00 auf der Ihnen bekannten Online-Messe Profino einzuwählen. Dort wird er für ca. eine Stunde auf die in diesem Newsletter angerissenen Themen eingehen. Wer noch tiefer einsteigen möchte, der kann sich am 10. Dezember 2024 von 17:00 bis 19:00 Uhr in unsere KANZLEI MICHAELIS Weiterbildung einwählen. Bei dieser Gelegenheit wird Herr Jacobsen in längerem Format von zwei Stunden zum KI-Einsatz bei Versicherungsmaklern berichten.

Bis dahin wünsche ich Ihnen einen erfolgreichen Start in den neuen Monat und verbleibe mit zukunftsorientieren Grüßen aus Hamburg.

Herzlichst,

Ihr