Wien. KI soll zuverlässiger werden: Eine neue Methode zur Berechnung des Risikopotenzials von KI schafft Vorteile in Bereichen wie Gesundheit und Finanzwesen.
Ein interdisziplinäres Team der TU Wien hat eine Methode entwickelt, um die Zuverlässigkeit von KI mathematisch abzusichern. Prof. Ezio Bartocci und Prof. Efstathia Bura arbeiteten gemeinsam mit den Doktoratsstudenten Andrey Kofnov und Daniel Kapla an der neuen Methode, die Konzepte aus verschiedenen Fachgebieten wie Statistik verbindet. Dabei gelangt es, exakt zu berechnen, wie sicher neuronale Netze in definierten Eingabebereichen arbeiten. Damit lassen sich erstmals Garantien geben, dass bestimmte Fehler in sensiblen Anwendungen ausgeschlossen sind – etwa in selbstfahrenden Autos oder medizinischen Diagnosesystemen.
Wenn Bilder verändert werden
Das Grundproblem: Selbst kleine Störungen im Eingabedaten können in KI-Systemen zu unvorhersehbaren Fehlern führen. Daher stellt sich die Frage: Was passiert, wenn ein Bild nur leicht verändert ist? Kann die KI dann plötzlich etwas völlig anderes erkennen? Herkömmliche Testverfahren würden hier keine vollständige Sicherheit, da nicht alle denkbaren Szenarien geprüft werden können, meint Ezio Bartocci.
Die Lösung des Teams basiert auf einem geometrischen Ansatz: Der Eingaberaum wird in kleine Bereiche zerlegt, für die sich exakt bestimmen lässt, welche Ausgaben das neuronale Netz liefert. „Wir können so die Wahrscheinlichkeit verschiedener Ergebnisse berechnen“, sagt Andrey Kofnov. Besonders wichtig ist das in Bereichen mit hohem Risikopotenzial wie Finanzwesen oder Gesundheitsversorgung. Allerdings gibt es Grenzen: Die Methode funktioniert aktuell nur bei kleinen neuronalen Netzen; für komplexe Systeme wie ChatGPT wäre der Rechenaufwand unvorstellbar hoch. Dennoch markiere die Entwicklung einen Meilenstein für vertrauenswürdige KI-Anwendungen.
Entstanden ist die Forschung im Doktoratskolleg SecInt, das interdisziplinäre Zusammenarbeit fördert. Die Kombination von KI-Theorie, Statistik und formalen Methoden zeige, wie wissenschaftliche Kooperation praktische Sicherheitslücken schließen kann, betont die TU in einer Pressemitteilung. Die Arbeit wurde auf der renommierten ICML-Konferenz präsentiert.
Jetzt den Newsletter von Extrajournal.Net abonnieren
Täglich aktuell in Ihrer Mailbox.
