KI in der Ära der Agenten: Teamplayer, Rechtsprofessor, aber (kein) Jobkiller

Interview. SFU-Professor Wolfgang Zankl über KI als Inspiration, als Ersatz für Prüfer an der Uni – und Werkzeug neuer Qualität für Juristen.

Extrajournal.Net: Ihr Fachgebiet ist die digitale Transformation. Ist mit den neuen KI-Tools eine andere Art der Qualität der Digitalisierung eingetreten?

Wolfgang Zankl: Ja, vor allem durch die neueste Stufe der Entwicklung, die KI-Agenten. Die bisher gewohnte KI, so wie sie die breite Öffentlichkeit seit dem Start von ChatGPT kennt, war reaktiv: Man gibt ein Prompt ein, die KI gibt eine Antwort. KI-Agents können dagegen proaktiv selbst tätig werden: Man gibt ihnen Ziele vor und der Agent führt diese aus; wenn er fertig ist, meldet er sich wieder bei seinem User. Das kann soweit gehen, dass mit diesen Agents sogar Einkäufe getätigt, Verträge abgeschlossen werden können. Wie viel sie heute schon können, hängt im Wesentlichen davon ab, worauf man ihnen Zugriff erteilt – vielleicht sogar auf Mailkonto und Banking. Von so weitgehenden Zugriffsrechten würde ich allerdings derzeit noch abraten, Halluzinationen und Fehler können leicht passieren. Aber die Entwicklung führt insgesamt dorthin, das ist keine Frage. Im Alltag wird man KI-Agenten vielleicht bald verwenden, um zum Beispiel eine Reise vorzubereiten: Hotel, Transportmittel, Aktivitäten usw. Wenn der Agent alles beisammen hat, meldet er sich bei seinem User zurück.

Unser Fachbereichsleiter für KI-Technologie und CTO von Microsoft Österreich Harald Leitenmüller hat jetzt ein Buch mit Hilfe von KI-Agenten verfasst, „Die Seele Österreichs“. Er hat dafür sozusagen eine ganze Agency eingesetzt. Ein Agent war für die Kontrolle der inhaltlichen Richtigkeit zuständig, einer für die Recherche, einer sogar dafür dass der Text nicht nach KI klingt. Ich habe dazu ein Geleitwort geschrieben, es ist wirklich lesenswert und beeindruckend was schon geht.

KI als Sparring Partner und Feedbackschleife

Sie haben selbst die Publikation „KI-Verordnung (KI-VO) einfach erklärt“ aus der Reihe Smart.Recht im Manz Verlag mit KI erstellt. Wie kam diese Neuheit an? Gab es positive, vielleicht auch negative Reaktionen? Welche Schlüsse ziehen Sie für die Zukunft?

Wolfgang Zankl: Sehr gut, sie wurde in der Fachwelt in halb Europa mit Interesse besprochen, worüber wir uns sehr freuen. Der Text zur KI-Verordnung ist mit KI entstanden, allerdings noch per Chatbot. Bei der nächsten Ausgabe von „Smart Recht“, die sich der DSGVO widmen wird, werden wir ebenfalls mit Agenten arbeiten.

Negative Reaktionen gab es eigentlich nicht, es gab höchstens die eine oder andere Stimme, dass man das doch auch selbst machen könne. Aber es gehört doch mehr dazu, es gehört das richtige Prompten dazu und die Fähigkeit zur inhaltlichen Kontrolle. Natürlich gab es auch viele, die anlässlich unserer Neuerscheinung festgehalten haben, dass KI den Menschen nicht ersetzen kann. Ich sage dazu: Ja, das wissen wir bereits, das ist der Erkenntnisstand des ersten Jahres nach ChatGPT. Inzwischen sind wir weiter. Ich sage: KI ergänzt, erweitert, verbessert den Menschen. Neu ist, dass Agenten in Teams integriert werden. KI als Sparring Partner, Feedbackschleife.

„Keine nachlassende Nachfrage am juristischen Arbeitsmarkt“

Wie wirken sich diese Entwicklungen auf den Arbeitsmarkt aus?

Wolfgang Zankl: Ich sehe derzeit keine nachlassende Nachfrage am juristischen Arbeitsmarkt durch KI. Ob die Technologie doch einmal Menschen verdrängen wird, bleibt abzuwarten. Tendenziell wird die KI-Entwicklung vor allem in größeren Kanzleien vielleicht den einen oder anderen Konzipienten teffen, aber gleichzeitig wird es mehr Spezialisten geben, die sich um die Umsetzung kümmern.

Gleichzeitig ist zu sagen: Wir haben derzeit immer noch „schwache“ KI, aber wir nähern uns durch die neuesten Entwicklungen ein wenig der „starken“ KI, die ihre eigenen Fehler erkennt, an. Dazu kommt als nächster großer Schritt die Quantencomputer, die eine viel größere Rechenleistung für KI bedeuten werden.

Die Fortschritte sind bereits groß, Halluzinationen wesentlich besser geworden, aber man darf sich nach wie vor nicht zu 100 Prozent darauf verlassen. Ich sehe KI vor allem als Verstärkung und Inspiration. Man ist doch stark auf sein Fachgebiet konzentriert. Die KI präsentiert einem dann durchaus manchmal auch Dinge, die man nicht auf dem Radarschirm hatte. Man spricht immer vom menschlichen Bauchgefühl, doch das ist letztendlich die Summe aller Erfahrungen, die ein Mensch gemacht hat. Darum wird das Bauchgefühl auch mit dem Alter stärker, wie man sagt. KI kann inspirierend wirken, weil sie die Summe vieler, vieler Gedanken von Milliarden von Menschen ist. Insofern hat auch KI ein Bauchgefühl. Sie kann den Horizont erweitern.

Wie sehen Ihre Studierenden diese Entwicklung?

Wolfgang Zankl: Was wir als Umwälzung empfinden, erleben die Studierenden natürlich ganz anders, für sie läuft das einfach parallel. Ich habe den Start des Internet so empfunden, das begann eines Tages sich bemerkbar zu machen, und irgendwann war es dann omnipräsent. So war es wohl auch vorher schon, zum Beispiel als das Telefon aufkam. Dagegen hat bei Social Media niemand gefragt, was das für uns bedeuten wird, und doch hat sich unsere Gesellschaft dadurch enorm verändert.

Ich sage immer: KI ist für hochprofessionelle Menschen wie mich ein Segen, hat aber durchaus auch eine demokratische Bildungswirkung. Leute mit wenig Ausbildung ermöglicht sie Dinge, die sie sonst nicht könnten. Das ist auch mein Ziel mit Smart Recht. Ich glaube nicht dass KI uns als Gesellschaft dümmer macht.

Was Juristinnen und Juristen trotz KI weiterhin selbst wissen müssen

Hören Sie von Ihren Studenten manchmal den Satz „Aber Herr Professor, das muss ich doch nicht lernen, das macht in Zukunft die KI für mich“?

Wolfgang Zankl: Den höre ich schon seit Langem, seit dem Start von Google zur Jahrtausendwende. Genau aus diesem Grund habe ich damals sogar Vorträge gehalten, was Juristen wissen müssen ohne zu googlen. Wo der Oberste Gerichtshof sich befindet beispielsweise.

Es gibt also sehr wohl bestimmte Kenntnisse, die man trotz aller digitalen Hilfsmittel besitzen muss?

Wolfgang Zankl: Das ist wohl so, und je höher die Bildung, desto größer sollte dieser Wissenskern sein. Eine brennende Frage ist natürlich für uns an der Universität, wie sich KI in der Lehre auswirkt. Ich glaube es wird eine Tendenz zu mehr mündlichen Prüfungen geben. KI kann inzwischen sehr gute und kaum erkennbare Fachtexte erstellen. Wir testen seit Jahren mittels Blindtest, wie viele KI-erstellte Texte wir erkennen können. Dabei erreiche ich heute ebenso wie vor einigen Jahren rund 80 Prozent Erkennungsrate. Man könnte sagen, dass das gut, ist aber es bedeutet umgekehrt, dass ich ein Fünftel nicht erkenne. Das ist natürlich problematisch. Es ist daher sehr schwer, Regel für den KI-Einsatz zu erstellen.

Ich neige dazu KI zuzulassen, aber unsere Regel lautet: der Einsatz muss von den Studierenden transparent gemacht werden, auch der Prompt muss angegeben werden. Literatur- und Judikatur-Recherche wird man im Studium weiterhin selbst machen müssen, aber den Einsatz von KI für Zusammenfassungen und als Formulierungshilfe bejahen wir.

Dennoch bleibt es problematisch, Verstöße zu erkennen. Ich kann ja nicht einem Studenten sagen, dass ich das Gefühl habe, er oder sie hätte unerlaubterweise KI eingesetzt – es muss nachgewiesen werden. Es gibt dazu zwar erste Judikatur aus Deutschland, die auf ein „auffallend anderes Niveau“ abstellt, aber ich bin skeptisch ob das hinreicht. Darum erwarte ich, dass es künftig mehr mündliche Prüfungen im Studium geben wird. Man könnte zum Beispiel statt einer Dissertation auch eine zwei- bis dreistündige mündliche Prüfung vor einer Kommission vorsehen.

Anstelle der heutigen schriftlichen Prüfungsarbeiten würden also mehr mündliche Tests treten?

Wolfgang Zankl: Wieder mehr mündliche Prüfungen, muss man dazu sagen. Das ist nämlich nicht nur nichts Schlechtes, es war einmal Standard. Derzeit besteht das Jus-Studium zwar gut zur Hälfte aus schriftlichen Arbeiten, doch als ich 1978 mit dem Studium begann, gab es überhaupt keine schriftlichen Prüfungen, mit Ausnahme des Eingangstests.

Aber eine mündliche Prüfung ist bei einer großen Anzahl von zu prüfenden Studenten ja eine Art Marathonlauf für den Prüfer. Kommt die Uni da nicht an Kapazitätsgrenzen?

Wolfgang Zankl: Die Bearbeitung schriftlicher Prüfungsarbeiten ist auch aufwändig. Gleichzeitig ist nicht gesagt, dass wir uns mündliche Prüfungen nicht leichter machen können. Wer weiß ob nicht eines Tages ein KI-Klon von mir die mündliche Prüfung abnimmt. Bei einem klaren Prüfungsergebnis wird man sich danach richten; ist das Ergebnis nicht eindeutig, schaue ich mir den Prüfling dann eben auch noch persönlich an. Der Einsatz von KI in der Lehre ist übrigens Hochrisiko-KI gemäß AI Act der EU – das zeigt dass man schon vorhergesehen hat in welche Richtung es geht.

Im Interview

Univ.-Prof. Wolfgang Zankl ist Vorstand des Instituts für digitale Transformation und künstliche Intelligenz der Sigmund Freud Privatuniversität in Wien und Berlin.

Auf dem Foto: Wolfgang Zankl (2. v. re.) mit Peter Guggenberger (Manz Verlag), Klaus Steinmaurer (RTR) und Harald Leitenmüller (Microsoft) bei der Präsentation von „KI-Verordnung (KI-VO) einfach erklärt“ ©Manz