Was kann KI, was soll KI, was darf KI?

Die Fragen nach dem „Können, Sollen und Dürfen“ standen im Fokus einer Podiumsdiskussion, die den Auftakt zu Tag 3 der diesjährigen DAV/DGVFM-Jahrestagung in Berlin bildete. In einem spannenden Austausch zu Chancen, Risiken und schon jetzt greifbaren Anwendungen diskutierten Expertinnen und Experten aus Wissenschaft, Wirtschaft und Consulting.

Neben Moderatorin Christiane Stein, Ex-n-tv-Sprecherin und auf Digitalisierungsthemen spezialisierte Moderatorin, standen am 26. April Dr. Ranja Reda Kouba von Google Cloud Germany, Tobias Krafft, Trusted AI GmbH, Dr. Maximilian Poretschkin, Fraunhofer Institut für Intelligente Analyse und Informationssysteme (IAIS), sowie Daniela Rode, Vorständin DAV und Vorsitzende des Ausschusses Actuarial Data Science, auf der Tagungsbühne.

„KI in die Menschheit tragen“

Die Besonderheit dessen, was KI mittlerweile kann, stellt Dr. Ranja Reda Kouba gleich zu Beginn in den Fokus ihrer Ausführungen zum Thema Automation. Aus ihrer Sicht sei Automation in der Vergangenheit eher ein Thema von Effizienzsteigerung auf einfacherer Ebene gewesen. KI tangiere nun aber auch akademische Berufe. So sei es möglich, Arbeit an Stellen abnehmen zu lassen, um an anderen Stellen kreativen Tätigkeiten nachzugehen.

Eine Grundvoraussetzung, um die Möglichkeiten der Technologie auszuschöpfen, sieht Tobias Krafft darin, „sie in die Menschheit zu tragen.“ Die Erfolgsmeldungen des KI-Hypes täuschten darüber hinweg, dass zahlreiche Projekte schiefgelaufen seien. „Da haben Technikerinnen und Techniker gute Arbeit geleistet, aber nicht genug mit den Personen, die am Ende betroffen waren, kommuniziert.“ Dr. Maximilian Poretschkin greift das Thema Hype ebenfalls auf und erläutert, worin die drei positiven Konsequenzen bestehen, die dieser mit sich bringt: „Erstens führt er dazu, dass alle Leute KI in ihre Anwendungen und Business-Prozesse bringen wollen. Zweitens lassen sich viele Anwendungen mit wenig Aufwand implementieren.“ Drittens führe die mediale Aufmerksamkeit für das Fehlverhalten bestimmter KI-Anwendungen dazu, dass man KI in sensiblen Bereichen absichern wolle.

KI erweitert Werkzeugkasten

Spezifisch auf die Arbeit der Aktuarinnen und Aktuare heruntergebrochen sei KI ein Tool, das den Werkzeugkasten erweitere, erklärt Daniela Rode: „Es ist wichtig zu schauen, wie das Tool eingesetzt wird und ob es zum Use Case passt, welche Daten genutzt und welche Methoden angewandt werden. Mein Vertrauen in KI ist daher groß, wenn sie sinnvoll, mit fachlichen Standards und einer entsprechenden Governance eingesetzt wird.“ Mit KI seien Dinge denkbar oder schon jetzt umsetzbar, die das Leben der Aktuarinnen und Aktuare erleichtern etwa bei der Arbeit mit unstrukturierten Daten oder beim Risikoverständnis. KI kann aber auch Prozessoptimierungen herbeiführen und ermöglicht eine individuellere Unterstützung der Kunden.

Mittlerweile sei es klarer, so Maximilian Poretschkin, woher Fehlverhalten von KI komme und was zu tun sei, um zum Beispiel ungewünschten Bias zu vermeiden. „Wir werden außerdem zunehmend auch eine Echtzeitprüfung von KI-Systemen brauchen.“ Woran es hierzulande mangle, seien derzeit drei Punkte: 1. Rechnerkapazitäten für große Sprachmodelle, 2. das Wagniskapital und 3. Der Fokus liege zu stark auf den Risiken statt den Chancen.

Chancenoffenheit und Vertrauen

Um Chancenoffenheit geht es auch Daniela Rode: „Die DAV hat sich schon früh mit dem Thema beschäftigt – so erfolgte 2018 die Gründung der Fachgruppe, anschließend auch des Ausschusses und die Implementierung der Ausbildung Certified Actuarial Data Scientist. Wir setzen fachliche Standards. Aktuarinnen und Aktuare haben das entsprechende Domänenwissen und sind bereit, die Entwicklung und den Einsatz von KI bei den Versicherern zu begleiten.“

Daher habe man sich natürlich auch mit der nötigen Regulatorik beschäftigt. „Aber der Versicherungsbereich ist schon stark reguliert. Es werden viele der Themen bereits durch bestehende Regelungen abgedeckt, darum ist es wichtig, dies in der aufsichtsrechtlichen Umsetzung zu berücksichtigen.“ Sie betont den Vertrauensaspekt, der bei Versicherern stark im Fokus steht. Tobias Krafft bestätigt diese Relevanz: „Normung ist eine ganz wichtige vertrauensbildende Maßnahme.“ Überhaupt liegt dem Podium daran, eine Lanze für Regulatorik im Allgemeinen und die europäische Gesetzgebung zu KI im Speziellen zu brechen. Wie Ranja Reda Kouba es formuliert: „KI ist zu wichtig, um nicht reguliert zu werden. KI ist aber auch zu wichtig, um nicht ‘gut‘ reguliert zu werden.“ In Europa schaffe man es, so Tobias Krafft, „genau den Mittelweg zu gehen“ und so einen Ausgleich der verschiedenen Interessen zu ermöglichen. Maximilian Poretschkin sieht in den Dokumentationsanforderungen gewisse Herausforderungen für Forschungseinrichtungen. „Gleichzeitig kann man die Regulierung auch als Chance begreifen.“ Wenn man Qualitätsmanagementsysteme richtig aufsetze, funktionieren die Systeme später auch besser, was ein wirtschaftlicher Wettbewerbsvorteil sein könne.

Fazit

Die KI-Podiumsdiskussion bot spannende Eindrücke in verschiedene Aspekte des Themas, das wissenschaftliche, gesetzgeberische und wirtschaftliche Bereiche berührte. Um diese und die insgesamt noch deutlich umfangreicheren Diskussionen nachzuvollziehen, lohnt sich ein Blick auf die Videoplattform actuview, auf der das komplette Panel frei zugänglich als Video zu sehen ist.