Tools & Troubles. Die Anwendung von KI in der Sozialversicherung ist mit (auch rechtlichen) Risiken verbunden, so das Deutsche Institut für Altersvorsorge (DIA).
Immer mehr Institutionen der Altersvorsorge in Europa (und auch in Österreich) prüfen den Einsatz von neuen KI-Tools oder haben diese bereits an den Start gebracht. Die Anwendung von KI in der Sozialversicherung sei aber mit einer Reihe von Risiken verbunden, die gerade in einem solch sensiblen Bereich wie der Renten-, Kranken- oder Arbeitslosenversicherung besonders schwerwiegende Folgen haben können, so eine Studie des Deutschen Instituts für Altersvorsorge (DIA).
Das DIA positioniert sich selbst als unabhängige Denkfabrik zur Altersvorsorge, finanziell getragen von Unternehmen der Finanzwirtschaft (darunter Deutsche Bank, DWS und Zurich Deutschland). Bei der aktuellen Studie ging man laut einer Aussendung der Frage nach, wie KI die Sozialversicherung verändert.
„Es gibt keine unverfälschten Rohdaten“
Eines dieser Risiken ist die Diskriminierung einzelner Personen oder Personengruppen, die in anderen Bereichen, zum Beispiel bei Recrutingsoftware, bereits beobachtet werden konnte. Eine solche Diskriminierung, so die Studie, beruht auf einem Datenproblem, heißt es: Die Annahme, dass es unverfälschte, neutrale Rohdaten gibt, mit denen KI-Systeme gefüttert werden, sei schlicht falsch, stellt die Studienautorin Nora S. Stampfl fest.
„Daten sind ohne Akte der Selektion und Interpretation nicht zu haben – von der Auswahl dessen, was überhaupt gemessen werden soll, bis hin zur Auswertung von Ergebnissen hat man es mit subjektiven Entscheidungen zu tun. Sind bereits die Daten mit einem Bias behaftet, kann dieser durch die KI nicht als solcher erkannt werden, vielmehr wird dieser erlernt“, so Stampfl.
„Gefahr der Sicherungslücken“
KI, die diskriminierende Ergebnisse hervorbringt und damit Gerechtigkeitsprobleme aufwirft, sei gerade in Organisationen der sozialen Sicherung besonders kritisch zu beurteilen. Neben der Gefährdung der sozialen Gerechtigkeit besteht auch das Risiko von Sicherungslücken – etwa dort, wo Maßnahmen an KI-basierte Entscheidungen geknüpft sind, können falsch-negative oder falsch-positive Ergebnisse weitreichende Konsequenzen haben. Als Beispiel wird die Beurteilung des Risikos der Langzeitarbeitslosigkeit genannt, von der eine bestimmte Unterstützungsmaßnahme abhängig gemacht wird.
Eine zweite Herausforderung sei die Nachvollziehbarkeit und Rechtmäßigkeit von KI-Entscheidungen. Im Falle von Risikobewertungen, wie sie häufig Gegenstand von KI-Anwendungsfällen in der Sozialversicherung sind, gehe es immer um die Berechnung von Wahrscheinlichkeiten. Klarerweise sei es jedoch problematisch, wenn eine Sozialversicherungsorganisation auf der Grundlage von Wahrscheinlichkeiten und nicht auf der Grundlage von Tatsachen entscheidet bzw. handelt, denn das Gesetz knüpfe Rechtsfolgen grundsätzlich nur an Gewissheiten.
„Das Black-Box-Problem“
Außerdem ortet die Studie ein „Black-Box-Problem“: Auf welchem Wege sich neuronale Netze bilden, ist per definitionem nicht festgelegt und daher nicht nachvollziehbar. Weil Algorithmen ihre eigenen Regeln generieren, um aus den Inputdaten ein Ergebnis zu gewinnen, ist der Entscheidungsprozess intransparent. „Für das rechtsstaatliche Erfordernis der Rechtsgebundenheit wirft dieser Umstand ernsthafte Probleme auf“, so die Studienautorin.
Hinzu kommen die Verantwortung für und Erklärbarkeit von KI-Entscheidungen, die jederzeit gegeben sein müssen. „Das Wissen, wann und wie KI-basierte Entscheidungen zustande kommen, ist von enormer Bedeutung. Das sollte bei allen Erwägungen, KI in der Sozialversicherung einzusetzen, bedacht werden“, so DIA-Sprecher Klaus Morgenstern. Die Studie inklusive Beispielen hat man online zur Verfügung gestellt.