IT & Regulierung. Im Forschungsausschuss des Nationalrats erklärten Experten die Wahrheit hinter ChatGPT. Und die Republik will künftig mehr Open Source und weniger Microsoft, so die einhellige Beteuerung aller Parteien.
Generative künstliche Intelligenz (KI), also Programme wie ChatGPT, war jetzt Thema einer Aussprache im Ausschuss für Forschung, Innovation und Digitalisierung im Parlament. Die Abgeordneten tauschten sich darüber mit dem stellvertretenden Leiter des Instituts für Technikfolgenabschätzung der Österreichischen Akademie der Wissenschaften (ÖAW) Walter Peissl, mit dem Professor für Technologie- und Immaterialgüterrecht an der Universität Wien Nikolaus Forgó sowie mit dem Medienphilosophen und Mitglied des Österreichischen Rats für Robotik und Künstliche Intelligenz Mark Coeckelbergh aus.
Ein gemeinsamer Entschließungsantrag von ÖVP, SPÖ, Grünen und NEOS betreffend Open-Source-Produkte zur Stärkung der digitalen Souveränität Österreichs wurde im Ausschuss einstimmig angenommen, berichtet die Parlamentskorrespondenz.
„Den Hype um ChatGPT & Co einordnen“
Zur „Einordnung des Hypes“ rund um generative KI wie ChatGPT legte Walter Peissl von der ÖAW eingangs einige technische Details dar. Die Mensch-Maschine-Schnittstelle ChatGPT funktioniert nach einem sogenannten Large Language Model (LLM):
- Es werden große Mengen an Text in das System eingelesen, das daraus eine Struktur erlernt.
- In einem zweiten Schritt finde eine Feinjustierung – überwiegend durchgeführt von Personen aus dem globalen Süden zu niedrigen Stundengehältern – statt, um etwa Hate Speech und Rassismus, den das System durch die aus dem Internet eingespeisten Daten erlernt hat, herauszufiltern.
- Bei der Erstellung von Texten arbeitet ChatGPT nach einer Wortfolgestatistik. Es erlerne und berechne Wahrscheinlichkeiten, wie oft ein Wort nach einem anderen vorkomme, und generiere so Antworten, ohne Bedeutung oder Inhalt zu verstehen.
- ChatGPT liefere also auf die eingegebenen Fragen nicht die richtigen, sondern die aufgrund der Wortfolgestatistik wahrscheinlichsten Antworten, betonte Peissl. Das führe oft zu faktisch falschen Ergebnissen.
- Der Experte ortete weitere systembedingte und gesellschaftsbezogene Probleme im Zusammenhang mit generativer KI, etwa die Nutzung personenbezogener Daten an der DSGVO vorbei, eine Voreingenommenheit in den Antworten und die Tatsache, dass auch Expert:innen nicht genau wissen, wie die Modelle arbeiten.
Europas große KI-Regulierung
Jurist Nikolaus Forgó ging auf die geplante Regulierung von KI auf europäischer Ebene ein. In Europa, insbesondere in Österreich und Deutschland, gebe es eine große Skepsis gegenüber künstlicher Intelligenz. Aus Forgós Sicht begebe man sich nicht zuletzt durch den geplanten Artificial Intelligence Act in eine „legislative Überschuldung“: Es gebe immer mehr Regulierung in einem Bereich, in dem man immer weniger mit der Durchsetzung zu Rande komme. Die Technologie sei stark amerikanisch und chinesisch geprägt und verzeichne ein überexponentielles Wachstum. Die „traditionell regulatorische“ Reaktion Europas habe jedoch keine Auswirkungen auf dieses Wachstum.
Forgó kritisierte zudem, dass es viele Unklarheiten beim Artificial Intelligence Act gebe, allen voran, was eigentlich alles darunter falle. Aus seiner Sicht sei das Parlament gefordert, klarzustellen, was genau wie und warum nationalstaatlich geregelt werden soll, und wie die österreichische Position in den Verhandlungen auf EU-Ebene aussieht. „Wenn Österreich oder Europa aufholen will, muss es schneller laufen als die, die schon in Führung sind“, forderte der Experte mehr Tempo ein.
Medienphilosoph Mark Coeckelbergh thematisierte insbesondere die ethischen Herausforderungen im Zusammenhang mit KI, wobei er eine generelle Verteufelung der Technologie als nicht hilfreich bezeichnete. Vielmehr gelte es, konkrete ethische Probleme zu benennen, etwa mit Blick auf Plagiate oder Urheberrechte. Es fehle die Transparenz, weil die Trainingsdaten der Systeme in den meisten Fällen nicht offengelegt würden. Desinformation, Diskriminierung und Voreingenommenheit, aber auch Datenschutz und Datensicherheit seien weitere Probleme.
Open-Source-Produkte für digitale Souveränität
ÖVP, SPÖ, Grüne und NEOS weisen gemeinsam auf die potenziellen Probleme für die österreichische Souveränität hin, die sich im Krisenfall aus einer zu starken digitalen Abhängigkeit von einzelnen Staaten, Regionen oder Unternehmen ergeben könnten. In einem Entschließungsantrag wenden sich die vier Fraktionen an die Bundesregierung mit dem Ersuchen, zu analysieren, inwieweit der flexiblere und vermehrte Einsatz von Open-Source-Produkten zur Stärkung der digitalen Souveränität Österreichs beitragen kann. Der Antrag wurde im Ausschuss einstimmig angenommen.
- Im Detail sprechen sich die Abgeordneten für eine Evaluierung der geschäftskritischen IT-Verfahren des Bundes in Bezug auf die digitale Souveränität aus. Dabei sei insbesondere auch zu untersuchen, ob und wie weit die eingesetzten Software-Produkte kurz- bzw. mittelfristig durch Open-Source-Software (OSS) substituiert werden könnten.
- Weiters gilt es laut den Abgeordneten, einen Open-Source-Katalog der Bundesverwaltung zu erstellen, der für eine bessere Übersicht sowie den notwendigen Austausch für einen breiteren Einsatz von OSS sorgen kann.
- Außerdem solle die Bundesregierung evaluieren, inwieweit Open-Software-Produkte im Bereich Bildung und Lehre verstärkt eingesetzt werden können.
Der gemeinsame Antrag sei ein erster Schritt zur Evaluierung und um Potenziale aufzuzeigen und fuße auf einem Vorschlag der SPÖ mit dem Grundgedanken, Open Source zu forcieren, meinte Eva Maria Himmelbauer (ÖVP). Süleyman Zorba (Grüne) sieht den Antrag auch in Zusammenhang mit dem Thema KI. Petra Oberrauner (SPÖ) würde darüber hinaus gern Open Source in der Bildung als klares Ziel vorgeben. Gerhard Deimek (FPÖ) begrüßt den Antrag grundsätzlich, kann aber nicht nachvollziehen, warum sich die Regierungsparteien in dieser Form selbst einen „Auftrag“ geben.
Eine einzige (günstige) Bundeslizenz für Microsoft?
Staatssekretär Tursky räumte gegenüber Helmut Brandstätter (NEOS) betreffend die Lizenzkosten für Microsoft-Produkte ein, dass es schon länger Bestrebungen für eine gesammelte Bundeslizenz gebe. Was den vorliegenden Antrag betrifft, wolle man rasch in Umsetzung kommen, so Tursky.