Blog. Über die Herausforderungen von digitaler Diskriminierung, „Algorithmic Bias“ und Verfassungsrecht schreibt Marlon Possard am Facultas Blog.
Immer häufiger werden Diskriminierungen in Zusammenhang mit KI-Systemen diskutiert, schreibt Marlon Possard (FH Campus Wien und Sigmund-Freud-Privatuniversität Wien und Berlin) in seinem Beitrag am Rechtsblog von Fachverlag Facultas. Die Frage laute: Wie damit umgehen?
Künstliche Intelligenz und Ungleichbehandlung
Man stelle sich folgenden Sachverhalt vor: Zuerst eine Bewerbung und dann (k)eine Einladung zum Vorstellungsgespräch – zweifellos ein alltäglicher Prozess in Bewerbungsverfahren. Doch wenn die Bewerber:innen-Auswahl KI-gestützt erfolgt, kann das Ergebnis Symptom eines strukturellen Problems sein: Automatisierte Diskriminierung, ausgelöst durch „Algorithmic Bias“.
Darunter versteht man Vorurteile, die nicht durch Menschen, sondern durch Maschinen entstehen – also auch durch KI-Systeme. In solchen Fällen arbeiten im Hintergrund Algorithmen, die primär aus historischen Daten lernen und dabei oft die Fehler und Vorurteile der Vergangenheit reproduzieren. Da kann es dann vorkommen, dass etwa Frauen bei technischen Jobs seltener berücksichtigt werden als Männer oder Menschen mit „fremdklingenden“ Namen häufiger im Bewerbungsprozess abgelehnt werden. Es kann auch passieren, dass Bewerber:innen aus bestimmten Regionen benachteiligt werden, schildert Possard.
Auch Mathematik kann ausgrenzen
Das KI-System selbst verfolgt in solchen Kontexten keine böse Absicht, das Ganze ist ein Ergebnis von Mathematik und Datensätzen. Doch die Wirkung ist laut Possard gleich, denn es folgt: Benachteiligung, Ausgrenzung, Ungleichbehandlung.
Was das im Zusammenhang mit geltenden Rechtsvorschriften wie dem Gleichheitsverständnis i. S. d. Art. 7 B-VG (Bundesverfassung) bedeutet und ob für das digitale Zeitalter neue Herangehensweisen nötig sind, diskutiert der Autor in der Folge. Er verweist dabei auch darauf, dass KI-Tools, die z.B. im Rahmen der Vermittlung von arbeitslosen Personen Anwendung finden könnten, aus seiner Sicht durchaus nicht pauschal abzulehen seien: „Hier beginnt eine spürbare Grauzone, die wohl immer eine Einzelfallbeurteilung notwendig macht.“ Im Zusammenhang mit Rechtsethik geht es dann um die „digitale Menschenwürde“ und mehr, führt der Blogbeitrag aus.
Jetzt den Newsletter von Extrajournal.Net abonnieren
Täglich aktuell in Ihrer Mailbox.
Zu diesem Thema:
