Die Bevölkerung sieht KI-Risiken völlig anders als die Rechtsprofis

Von Chatbot bis Verkehrskamera. Je riskanter eine KI-Anwendung, desto mehr Regeln gelten: Was riskant ist, sieht der EU AI Act aber ganz anders als die Bevölkerung, so eine Uni Graz-Erhebung.

Forschende der Uni Graz haben die KI-Wahrnehmung in der Bevölkerung erhoben: Sie sieht demnach sowohl Nutzen wie Gefahr in der Technologie. Gegen die Risiken sollen bekanntlich einschlägige EU-Vorschriften schützen, vor allem der AI Act. Doch die darin verkörperte Risiko-Einschätzung der Rechtsprofis unterscheidet sich teilweise radikal von der der Gesamtbevölkerung, hat die Studie ergeben.

Die Studie wurde von einem interdisziplinären Team aus dem Forschungsbereich Smart Regulation unter Beteiligung der Technischen Universität Graz durchgeführt und in Computer Law & Security Review publiziert (Hanna Kröll, Jürgen Fleiß, Magdalena Eder, Elisabeth Lex, Stefan Thalmann: AI risk perceptions and the effect of AI Act Safeguards. Results from a representative population sample).

Die Regeln

Der Einsatz von künstlicher Intelligenz muss seit 2. August 2026 transparent gemacht werden. Wie riskant eine Anwendung ist und welche Sicherheitsmaßnahmen in der Folge gelten, regelt der seither gültige AI Act der EU ebenfalls.

Die Einschätzung der Gefahren durch die Gesetzgebung weiche allerdings teilweise deutlich von der Wahrnehmung in der österreichischen Bevölkerung ab, so die Studie von Datenwissenschaftler Stefan Thalmann (Uni Graz) und Team.

„Die Risiko-Kategorisierung im AI Act ist für die meisten undurchsichtig und schwer nachvollziehbar. Es wäre sinnvoll, Bürger:innen einzubinden und nachzujustieren“, empfiehlt der Forscher und nennt zwei Beispiele: „Die automatisierte Müdigkeitserkennung im Lkw greift direkt in das Fahrverhalten ein und verarbeitet potenziell sensible biometrische Daten. Das EU-Recht schreibt daher strenge Schutzmaßnahmen vor.“ Für die befragten Personen – wie auch für viele Lkw-Fahrer:innen – stünde allerdings der Nutzen für die Sicherheit auf der Straße im Vordergrund. „Die gesetzliche Vorgabe wird folglich als übertrieben und hinderlich beurteilt“, ergänzt Thalmann.

Die Bedenken bei Chatbots

Umgekehrt fühlen sich viele Kund:innen unwohl, wenn sie auf diversen Internetportalen mit Chatbots in Kontakt treten sollen. „Obwohl diese keine sensiblen Daten abfragen oder in persönliche Lebensbereiche eingreifen – und folglich im AI Act als geringes Risiko gelten –, haben Konsument:innen Datenschutz-Bedenken und Angst vor Manipulation oder falschen Auskünften“, hat der Wissenschaftler erhoben. „Die Politik sollte daher verstärkt auf klare Information und Aufklärung setzen, zum Beispiel durch leicht verständliche Kennzeichnungen von KI-Risiken“, empfiehlt Thalmann.

Weiters brauche es eine Stärkung der digitalen Kompetenz: Wer sich mit Technik auskennt, kann auch die Gefahren durch künstliche Intelligenz besser einschätzen, so ein weiteres Ergebnis der Studie. Menschen, die die Technologie als besonders riskant empfinden, lassen sich auch durch zusätzliche Schutzmaßnahmen kaum überzeugen.