Schwerpunkt: Orientierung

Hedwig Weiß und Peter Zellinger im Gespräch: Wer hat Angst vor ChatGPT?

Ulrike Potmesil - 18. Jänner 2024

Der Chatbot, den das US-amerikanische Unternehmen OpenAI vor einem guten Jahr gelauncht hat, erwies sich als Volltreffer. Seitdem ist ChatGPT in aller Munde, respektive auf allen Laptops. Auch jenen der Schülerinnen und Schüler, denn die KI spuckt in Sekunden nahezu jede gewünschte Textgattung aus. Was KI kann und warum man sie weder verbieten noch fürchten muss, darüber sprechen Hedwig Weiß, Deutsch- und Informatiklehrerin am Konrad Lorenz Gymnasium Gänserndorf, und Peter Zellinger, technischer Redakteur beim Web-Standard.

Hölzel Journal: Künstliche Intelligenz, die sich selbst so lange weiterentwickelt, bis sie der Kraft ihres Schöpfers entgleitet und ein unkontrollierbares Eigenleben entwickelt. Klingt ein bisschen nach Science-Fiction oder – um im Deutschunterricht zu bleiben – nach Goethes Zauberlehrling. Wird ChatGPT den Sprachgebrauch revolutionieren und eigenmächtig verändern?

Peter Zellinger: Zunächst einmal ist klarzustellen: KI ist nicht intelligent. Auch wenn sie so heißt, ist sie nicht mit menschlicher Intelligenz vergleichbar, da ihr jegliche Kreativität fehlt.

ChatGPT basiert auf Wahrscheinlichkeitsrechnung, das heißt, das Programm berechnet die wahrscheinlichste Wortabfolge.

Diesen Berechnungen liegen riesige Datenmengen zugrunde.

Hedwig Weiß: Genau deshalb wird KI – zumindest die derzeit entwickelten Programme – nicht den Sprachgebrauch revolutionieren. Nur wenn Sprache bewusst eingesetzt wird, sind Neuerungen möglich, und das tut ChatGPT nicht. Der Chatbot reproduziert nur aus Vorhandenem und je länger er angewandt wird, umso mehr reproduziert er aus seinen eigenen Inhalten.

Kreativität ist also noch immer dem Menschen vorbehalten, aber ihr liegt ja auch ein großes Maß an geistiger Arbeit zugrunde. Wie man vielleicht noch aus der eigenen Schulzeit weiß – oder schlimmer noch: an seinen Teenager-Kindern sieht –, neigen Schülerinnen und Schüler dazu, Anstrengungen zu vermeiden. ChatGPT ist zwar nicht einfallsreich, aber eine sichere Bank, um mit möglichst wenig Aufwand Aufgaben zufriedenstellend zu erfüllen. Muss es unbedingt kreativ sein?

Hedwig Weiß: Beim Sprachgebrauch geht es nicht nur um Kreativität, sondern auch um Reflexion und Kritikfähigkeit. Letztere sind Basics, die wir den Kindern vermitteln müssen, denn beides ist nicht erst seit der Markteinführung des Chatbots, sondern seit die Informationsbeschaffung über das Internet einfach wurde, Thema. Ich möchte meinen Schülerinnen und Schülern vermitteln, wie sie bewusst mit Informationen aus dem Netz umgehen, wie sie Fake News erkennen, Inhalte hinterfragen und reflektieren.

Denn die Frage lautet ja nicht mehr: Wie komme ich an Informationen? Vielmehr muss uns beschäftigen: Woher stammen die Informationen, wie vertrauenswürdig ist die Quelle und welche Intention verfolgt der Verfasser/die Verfasserin?

Und woher stammen jetzt die Informationen, die ChatGPT nutzt?

Peter Zellinger: Auch wenn OpenAI so tut, als wäre es gemeinnützig, ist ChatGPT selbstverständlich ein Milliardengeschäft und wird mit riesigen Dollarsummen von Microsoft unterstützt. Wie genau das Unternehmen an die Daten kommt, ist gut gehütetes Firmengeheimnis, doch theoretisch kann auf alles, was wir Menschen ins Netz stellen, zugegriffen werden. Alle veröffentliche Inhalte können also gescraped – abgeschürft – werden.

Wie wir alle wissen, ist das World Wide Web voll von bedenklichen Inhalten: Gewalt, Diskriminierung, Rassismus. Wenn KI auf all das zugreifen kann, müssen wir vor ihr Angst haben?

Hedwig Weiß: Definitiv nein. Nicht das Programm ist gefährlich, sondern jene Menschen, die es für kriminelle Zwecke nutzen. Daher ist oben genannte Kritikfähigkeit so wichtig. Ich sehe das in Bezug auf Social Media bei meinen Schülerinnen und Schülern. Der oberflächliche Zugang zu scheinbar objektiver Information und schneller Unterhaltung ist zeitraubend, mindert die Sprachgewandtheit, aber vor allem die Konzentrations- und Kritikfähigkeit. Das sind die großen Gefahren.

Peter Zellinger: Zudem ist ChatGPT kein schrankenloses Programm. Da hat man schon aus den Anfängen gelernt. Der Chatbot TY von Microsoft, der über Twitter lief, hat sich in der internen Testphase, bedingt durch zweifelhafte Scherz-Tweets der Programmierer, binnen weniger Stunden in einen Nazi verwandelt und sich derart verselbstständigt, dass man nach ein paar Stunden den Stecker gezogen hat. ChatGPT ist dagegen gehardcoded, gewisse Inhalte produziert der Chatbot nicht. Man kann also keine Drogen-Schmuggeltipps abholen oder eine Abhandlung zur Überlegenheit der weißen Rasse schreiben lassen. ChatGPT wird bezüglich bedenklicher Inhalte gemonitored.

Gut, das sind Themen, die ohnehin nicht für Erörterungen im Schulalltag herangezogen werden. Aber die typischen Aufgabenstellungen für Schülerinnen und Schüler hat ChatGPT doch sicher drauf?

Peter Zellinger: Ein Deutschlehrer hat mir gesagt, er gibt keine Hausübungen mehr, weil die schreibt ohnehin die KI.

Hedwig Weiß: Wenn es nur das wäre. Leider schlage ich mich oft genug mit elementaren Problemen herum, mit fragwürdiger Arbeitshaltung, mangelnder Motivation und der Frage, ob meine Schülerinnen und Schüler überhaupt ihre Hausübungen schreiben. Da wäre ich schon dankbar, wenn sie die KI bemühen würden, denn dazu müssen sie konkrete Fragen ausformulieren, was immerhin schon kreative Denkarbeit ist.

Sie lehnen die KI im Zusammenhang mit Deutschunterricht also nicht ab?

Hedwig Weiß: Überhaupt nicht. KI wird uns bleiben und sie wird in vielen Berufsfeldern eingesetzt werden. Darauf müssen wir die Kinder vorbereiten und das geht nur mit kritischer Auseinandersetzung. Ich habe meinen Schülerinnen und Schülern zum Beispiel eine von KI generierte Reizwortgeschichte vorgelegt, die Vorgabe war: “Schreibe eine spannende Geschichte.” Das allgemeine Credo der Klasse war: “Das ist nicht spannend.” Die Kinder mussten dann die Geschichte neu oder umschreiben, sie haben erstens gelernt, dass die KI doch nicht so super ist, und zweitens, dass sie selbst sprachlich kreativ sind. Zwei wichtige Erkenntnisse.

ChatGPT schreibt also orthografisch korrekt, aber langweilig. Hat der Chatbot weitere Schwächen?

Peter Zellinger: Jede Menge: KI kann nicht richtig von falsch unterscheiden und kennt keine Fakten. Sie weiß weder, ob Ivermectin Corona heilt, noch kann sie die Namen der österreichischen Bundesregierung aufzählen. Die KI lügt und betrügt, sie neigt zum Halluzinieren, schreibt Fake News und ist sexistisch. Außerdem – wenn ich das als Journalist so sagen darf – übt sie sich im Phrasendreschen und Schwurbeln.

Faktencheck ist bei ihrer Verwendung immer oberstes Gebot.

Wird man mit der neueren KI-Generation all diese Fehler ausmerzen? Was erwartet uns in nächster technischer Zukunft?

Peter Zellinger: Der nächste Entwicklungsschritt sind multimodale KIs. Multimodales Lernen ist eine Weiterentwicklung des Machine Learning, auf dem KI derzeit basiert. Die zukünftige KI wird mehrere Datenquellen wie Text, Bild und Audio gleichzeitig nutzen, um komplexe Aufgaben zu lösen, aber laut Prognosen sind wir von ausgereiften Systemen noch zehn Jahre entfernt. In Techniker-Zeitrechnung also eine Ewigkeit.

Mehr zum Schwerpunkt Orientierung:

Sabine Straka: Über den Kaufvertrag von Verkehrsflugzeugen
Andreas Bärnthaler: Von authentischer Berufssprache im Unterricht
Lehrkraft 2.0: Andreas Ferner mit Schmäh und digitalen Medien
Digitale Grundbildung: Kritisches Denken über Medien und Technik
Wie sich Geografie und Wirtschaft in den neuen Büchern vereinen
Jugend und Fake News: Junge Menschen trauen ihren Quellen kaum
Protestsongs: Mit Musik gegen den Rhythmus der Politik