Vermeidung von Bias und Diskriminierung im Bereich Data Science
Überblick
Der verstärkte Einsatz von Data Science Methoden, insbesondere Künstlicher Intelligenz (KI), bietet der Versicherungsbranche ein enormes Potenzial zur Geschäftsverbesserung, birgt gleichzeitig aber auch das Risiko, dass durch verzerrte Daten ungewollt Vorurteile verfestigt und statistische Modelle und KI-Systeme im rechtlichen Sinne diskriminieren. Einen Rahmen zum Umgang mit Fairness, Transparenz und Nichtdiskriminierung geben die Leitlinien der AI High-Level Expert Group der Europäischen Kommission, die Ausführungen von EIOPA und BaFin sowie die am 1. August 2024 in Kraft getretene Europäische KI-Verordnung.
Der Ergebnisbericht erläutert konkrete technische und organisatorische Maßnahmen, um Bias und Diskriminierung in der aktuariellen Data Science Anwendung zu erkennen und zu vermeiden. Entlang des Data Science-Standardprozesses CRISP-DM werden Handlungsempfehlungen vorgestellt und diskutiert. Praxisorientierte Notebooks ergänzen den Bericht, um die praktische Anwendbarkeit zu fördern. Eine Zusammenfassung der relevanten gesetzlichen Anforderungen sowie eine Diskussion der Anwendung von Fairness-Metriken runden den Bericht ab.
Ziel ist es, Aktuarinnen und Aktuare[1], die im Bereich Data Science aktiv sind oder sich für diesen Bereich interessieren, für das Risiko im Umgang mit Bias zu sensibilisieren, konkrete Hilfestellungen und Fragestellungen an die Hand zu geben und den rechtlichen Rahmen aufzufrischen, um eine langfristig faire, transparente und ethisch verantwortungsvolle Nutzung von Data Science-Methoden und KI zu gewährleisten.
Darüber hinaus dient der Ergebnisbericht allen Mitgliedern und Gremien der DAV zur Information über den Stand der Diskussion und die erzielten Erkenntnisse gerichtet und stellt keine berufsständisch legitimierte Position der DAV dar.[2]
[1] Auch wenn hier und im Folgenden die Aktuarinnen und Aktuare explizit genannt werden, spricht die DAV alle Geschlechter und Identitäten gleichermaßen an. Dies gilt auch für alle anderen hier genannten Personengruppen.
[2] Die sachgemäße Anwendung des Ergebnisberichts erfordert aktuarielle Fachkenntnisse. Dieser Ergebnisbericht stellt deshalb keinen Ersatz für entsprechende professionelle aktuarielle Dienstleistungen dar. Aktuarielle Entscheidungen mit Auswirkungen auf persönliche Vorsorge und Absicherung, Kapitalanlage oder geschäftliche Aktivitäten sollten ausschließlich auf Basis der Beurteilung durch eine(n) qualifizierte(n) Aktuar DAV/Aktuarin DAV getroffen werden.
Verabschiedung
Dieser Ergebnisbericht ist durch den Ausschuss Actuarial Data Science am 11.03.2025 verabschiedet worden.
