„Gefahr eines permanenten Misstrauens“ - Hype und Warnungen vor schreibender künstlicher Intelligenz
Er kann mit einer hohen Sprachpräzision Reden ausarbeiten und Geschichten erzählen – und das auch noch in Sekundenschnelle. Der von der US-Firma OpenAI entwickelte Text-Roboter ChatGPT, eine Sprachsoftware mit künstlicher Intelligenz (KI), ist derzeit in aller Munde.
München - Die Software kann sekundenschnell Texte schreiben, die kaum von denen eines Menschen zu unterscheiden sind – das könnte die Welt verändern, mit gravierenden Folgen für Millionen Kreative. Abba-Musiker Björn Ulvaeus etwa sagt voraus, dass die Software bessere Musik als viele heutige Songs schreiben werde.
Fulda: Hype und Warnungen vor schreibender künstlicher Intelligenz
Prognosen, dass Software mit künstlicher Intelligenz Büroarbeiter ersetzen werde, so wie einst die Automatisierung viele Fabrikjobs wegfallen ließ, gibt es schon lange. Bisher wurde maschinelles Lernen für Hilfsanwendungen eingesetzt und schien noch lange nicht soweit. Dann kam im November die Software ChatGPT heraus und löste einen Hype aus. ChatGPT hat einen sehr breiten Anwendungsbereich. In einer Art Chatfeld kann man dem Programm unter anderem Fragen stellen und bekommt Antworten. Auch Arbeitsanweisungen sind möglich – beispielsweise auf Basis grundlegender Informationen einen Brief oder einen Aufsatz zu schreiben.
Wissenschaftler und KI-Experten in Deutschland warnen bereits vor Datensicherheitslücken und Hassparolen. „Im Moment ist dieser Hype. Ich habe das Gefühl, dass man dieses System kaum kritisch reflektiert“, sagt die Gründerin des Forschungslabors „Leap in Time Lab“ und BWL-Professorin an der Technischen Universität Darmstadt, Ruth Stock-Homburg. In einem Projekt zusammen mit der TU Darmstadt hat das „Leap in Time Lab“ über sieben Wochen Tausende von Anfragen ohne persönliche Daten an das System gestellt, um Schwachstellen zu finden. „Man kann diese Systeme manipulieren“, sagt Stock-Homburg.
Neben antisemitischen und rassistischen Äußerungen sind Quellenangaben schlicht falsch oder laufen ins Leere. Bei direkten Fragen zum Beispiel mit kriminellen Inhalten gebe es zwar Sicherheitshinweise und -mechanismen. „Man kann aber mit Tricks die KI und die Sicherheitshinweise umgehen“, sagt Schultze. Mit einem anderen Vorgehen zeigt die Software einem, wie man eine betrügerische Mail generiert oder wirft auch gleich drei Varianten aus, wie Trickbetrüger beim Enkeltrick vorgehen können. Auch eine Anleitung für einen Wohnungseinbruch liefert GPT. Falls man auf Bewohner treffe, könne man auch Waffen oder physische Gewalt einsetzen.
Die Nutzung von Chat GPT ist gratis. Allerdings soll die Software in naher Zukunft eine kostenpflichtige Pro-Version erhalten, wie ingame.de berichtet.
Auch der Vogelsbergkreis nutzt einen Chatbot. Der Hype um künstliche Intelligenz und Chatbots hat aber längst auch den Bildungsbereich erreicht: Professoren und Lehrer diskutieren, wie man sich an die neue Welt anpassen muss. Denn der Text-Roboter ChatGPT könnte – von kleinen Einschränkungen abgesehen – auch Examensfragen beantworten, für die normalerweise eine jahrelange medizinische Ausbildung nötig ist. Täuschungen bei Hausarbeiten und Referaten sind kaum noch nachweisbar. Wir haben in der Region nachgefragt, wie sich Lernen verändern wird:
Prof. Dr. Karim Khakzar, Präsident der Hochschule Fulda:
„Auch die Hochschule Fulda setzt sich mit den neuen Möglichkeiten zur KI-gestützten Texterstellung wie z.B. ChatGPT auseinander. Deren Verwendung kann kaum verhindert werden. Im Vordergrund steht eher die Frage, wie die neuen Werkzeuge sinnvoll und nützlich in Lehre und Forschung eingesetzt werden können. Mit Hilfe von KI können Alternativen und Verbesserungen zu bestehenden Texten generiert oder Texte bewertet werden. Darüber hinaus können Fehler erkannt, erläutert und korrigiert werden. Rückblickend haben vergleichbare Entwicklungen wie z.B. der Taschenrechner oder Rechtschreibkorrekturprogramme ebenfalls regelmäßig Bedenken ausgelöst. Sinkenden Leistungen z.B. beim Kopfrechnen standen im Gegenzug neue, wichtige Fähigkeiten bei der Anwendung digitaler Systeme gegenüber.
Bisher sind uns an der Hochschule keine eindeutig nachgewiesenen Betrugsversuche durch Studierende im Zusammenhang mit ChatGPT bekannt. Lehrenden empfehlen wir Aufgaben zu stellen, die eine Transferleistung erfordern und z.B. existierende Praxispartner einbeziehen, da ChatGPT hier kaum Informationen besitzt und sich leicht in Floskeln verliert. Die Datenbasis von ChatGPT stammt aus dem Jahr 2021, daher empfiehlt es sich zudem, Aufgaben mit aktuellerem Bezug zu stellen. Bei der Bewertung von Arbeiten sind zukünftig insbesondere Literaturverweise genau zu prüfen, da ChatGPT zwar täuschend echte Verweise erzeugen kann, diese aber nahezu immer „erdacht“ sind. Dennoch sind maschinell erzeugte Texte inzwischen verblüffend fehlerfrei.
Anfang März findet an der Hochschule zum Thema eine Veranstaltung für alle Lehrenden statt. Bei der aktuellen Dynamik des Themas gehen wir bis dahin von einigen neuen Erkenntnissen, insbesondere zu rechtlichen Aspekten, aus.“
Oberstudiendirektor Jörg Demuth, Leiter der Richard-Müller-Schule in Fulda:
„Das Entstehen der KI-Software ChatGPT ist die logische Konsequenz einer jahrzehntelangen Entwicklung, die noch längst nicht abgeschlossen ist. Insofern ist es müßig, zum Beispiel im Bildungskontext über diese neuen Möglichkeiten zu klagen. Wenn man akzeptiert, dass man diese Entwicklung nicht aufhalten, aussperren oder zurückdrehen kann, muss es nun darum gehen, diese neuen Möglichkeiten nutzbringend in unsere tägliche Arbeit zu integrieren. Dies gilt für den Unterricht in der Schule, aber auch in anderen Lebensbereichen. Daher wurde diese Fragestellung bereits in unserer letzten Gesamtkonferenz thematisiert.
Bei der Erstellung von Texten in Zusammenhang mit Hausarbeiten, Referaten oder Berichten wird schon längst auf eine saubere Darstellung der genutzten Quellen geachtet. Dies wird sicherlich noch stärkere Beachtung finden müssen. Daneben bietet es aber auch die Chance, dass durch die KI-Ankerpunkte oder Hinweise für die Beschäftigung mit einer Thematik geliefert werden, an denen dann Schülerinnen und Schüler für eine weitere Erarbeitung des Themas ansetzen können.
Auch Prüfungsformate werden sich sicherlich in diesem Kontext weiterentwickeln, die auch die Nutzung einer KI nicht außen vor lässt. Prüfungen werden dadurch aber sicher nicht einfacher, jedoch anders. Zentraler Bestandteil von Schule ist jedoch nach wie vor die Interaktion, der Austausch untereinander und das gemeinsame Lernen. Und daher steht die Bewertung von Schülerleistungen auf mehreren Säulen. Es geht immer um ein ganzheitliches Bild einer Leistung. In Diskussionen und der Vorstellung von Ergebnissen zeigt sich sehr schnell, ob etwas verstanden oder nur „nachgeplappert“ wurde. Das war bereits vor und wird auch nach ChatGPT so sein.“
Prof. Dr. Lothar Jordan, Vorstandsvorsitzender des privaten Bildungsunternehmens Dr. Jordan in Fulda:
„Mit der Software ChatGPT ist eine neue Stufe der Plagiat-Versuchung erreicht. Man muss schon sehr naiv sein, ein generelles Schul-Verbot zu fordern, es hätte keine Auswirkung. Daher bleibt nur die Aufklärung mit und durch ChatGPT. Den Unterricht verändern? Klar. Beispielsweise indem man mit dieser Software im Unterricht arbeitet. Die Schüler geben der Software Aufgaben, und die Antworten werden im Klassenverbund bewertet. Ein hoher Grad von kognitiver Leistung wäre erreicht, wenn die Grenzen, die dieses Programm sicherlich hat, bestimmt werden. Oder die Behandlung des Komplexes „geistiges Eigentum“ bietet sich super an. Die meisten Pädagogen denken an erster Stelle sicherlich, wie schädlich es sein könnte oder wird. Aus meiner Sicht ist es plausibel, nicht nur die Schul-negativen Seiten zu analysieren. Das Programm wurde nicht geschrieben, um Schülern eine schnelle, kostenfreie Möglichkeit des schulischen Plagiats zu ermöglichen.
Aber eines ist klar: Die Zeiten der bekannten Leistungserbringungen „Hausarbeit/Referat“ sind in der jetzigen Form beendet. Das ist die einzigmögliche Konsequenz, wenn nicht doch noch ein ChatGPT-Demaskierungs-Version auf dem Markt auftaucht. Das kaufen dann die Schulen und Universitäten.
Auch bei uns haben sich Schüler schon der KI bedient, um Aufgaben zu lösen. Geübte und erfahrene Lehrkräfte erkennen aber oft, dass das Kapitel oder ein komplizierter Satz nicht vom bekannten Schüler x stammen kann, weil der Text nicht „passt“. Dann kann man verschiedene Software so nutzen, dass ein Plagiats-Text schnell nachgewiesen wird. Ist bei uns schon des Öfteren passiert.
Unsere Lehrkräfte sind informiert. Für irgendwelche Beschlüsse oder Handlungen im Bildungsunternehmen sehe ich aktuell keine Notwendigkeit. Das Programm ist ja noch eine Beta-Version und erst seit September auf dem Markt. Wer weiß, was hier noch alles kommt.“
Oberstudiendirektor Markus Bente, Leiter der Wigbertschule Hünfeld:
„Es gilt Überzeugungsarbeit zu leisten. Chat-GPT ist geliehene Kompetenz und geliehenes Wissen, das für den eigenen Kompetenz- und Wissensaufbau nichts bringt. Wir erleben auch ohne KI, dass vermehrt nur noch die erzielten Notenpunkte oder der NC von Bedeutung zu sein scheinen und nicht die erworbenen Kompetenzen, die benötigt werden, um eine auf die Wissenschaft bezogene Problemlösungskompetenz zu entwickeln.
Wir müssen wachsam sein. Jedoch besteht die Gefahr eines permanenten Misstrauens im Unterricht bei guten Schülerantworten, einem Referat etc. und ggf. eine Überprüfungsneurose. Wir müssen als Lehrkräfte mit einer gesunden Skepsis, mit Augenmaß, aber auch mit Sensibilität agieren.
Das Problem an Chat GPT ist, dass der hinterlegte Algorithmus Antworten sprachlich variiert und damit nicht überprüfbar ist. Plagiate konnten früher über Suchmaschinen verlässlich identifiziert werden. Das ist mit der KI nicht mehr möglich. Der Schulträger wurde vor zwei Wochen von uns gebeten, die Website über einen Software-Filter zu sperren. Auf Zuhause haben wir keinen Einfluss.
Wir werden über diese Problematik auf der Gesamtkonferenz informieren, das Kollegium sensibilisieren und Problemlösungsstrategien erörtern. Darüber hinaus nimmt sich unsere Steuergruppe „Digitale Schule“ des Themas an. Ich hoffe, dass das Thema in Wiesbaden angekommen ist. Gehört haben wir vom Ministerium noch nichts.“