ÖWenn in Deutschland revolutionäre technische Neuerungen eingeführt werden, fordern die Menschen als erstes Vorschriften. Das gilt auch für ChatGPT, das bereits fast täglich von Schülern und Studenten genutzt wird und als Wort- und Sprachverarbeitungsprogramm sowohl Chancen als auch Risiken birgt. Dies erhöht zweifellos die Chancen des Betrugs, insbesondere in der Wissenschaft. Derzeit hat ChatGPT noch viele Fehler. Die meisten Forscher glauben jedoch, dass es eine falsche Hoffnung ist, dass die Herkunft von Texten, die von künstlicher Intelligenz (KI) generiert werden, immer noch technisch leicht zu erkennen ist.

Steffen Albrecht, Forscher für Künstliche Intelligenz am Institut für Technikfolgenabschätzung und Systemanalyse des KIT in Karlsruhe, der diese Woche ein Briefing-Papier für den Ausschuss Bildung, Forschung und Technikfolgenabschätzung im Deutschen Bundestag verfasst hat, weist auf die Einzigartigkeit der Texte hin. generiert von ChatGPT. Vorhandene Plagiatsverfolgungssoftware funktioniert nicht, und neue Programme werden entwickelt, jedoch nicht mit überwältigendem Erfolg. Es bietet eine Art Wasserzeichen, das bestimmte Muster in Texte einbettet, die das menschliche Lesen nicht stören, aber von Maschinen erkennbar sind.

Beim Verfassen wissenschaftlicher Texte könnte künstliche Intelligenz helfen, sich einen Überblick über die relevante Literatur zu verschaffen oder in einer anderen Sprache zu publizieren. Wissenschaftliche Verlage haben guten Grund, die Veröffentlichung von Texten abzulehnen, die von KI-Systemen geschrieben wurden. Da das deutsche Urheberrecht eine persönliche geistige Schöpfung erfordert, können nur menschengemachte Texte geschützt werden. Der zunehmende Publikationsdruck, insbesondere in der Qualifizierungsphase, könnte jedoch einige Forschende dazu bewegen, ihre Forschungsarbeiten mit einem KI-System zu schreiben, ganz zu schweigen von Abschlussarbeiten und Dissertationen.

Prüfungsformate sollten geändert werden

Die ersten Hochschulen haben bereits eigene Wege beschritten und die Prüfungsformate geändert. Sie verlassen sich mehr auf Präsenzprüfungen als auf Hausaufgaben. Schwierig ist es hingegen in den sozial- und sprachwissenschaftlichen Fächern. Sowohl in Jura als auch in anderen geisteswissenschaftlichen Fächern konnte ChatGPT Gegenargumente zu seiner Position schreiben und so kontroverse Diskussionen provozieren. Das Oberlandesgericht Stuttgart erprobt derzeit im Rahmen eines Pilotprojekts den Einsatz von Künstlicher Intelligenz bei der Vertragsprüfung und anderen juristischen Alltagsaufgaben.

In der Schule könnte der Prozess der Quellensuche, der Argumentation, also der Aufbereitung des eigenen sprachlichen Textes, in Zukunft eine viel wichtigere Rolle spielen. Die Technische Universität München hat am Lehrstuhl Kelkelejd Kasnetsi ein PEER-Tool (Paper Evaluation and Empowerment Resource) entwickelt, das Studierende beim Verfassen von Essays unterstützen soll. Die Schüler können ein Foto machen oder ihren Text hochladen, der dann von der KI überprüft wird und personalisiertes Feedback mit Verbesserungsvorschlägen gibt. Kasnetsi selbst ist der Meinung, dass gerade schwächere Schüler von diesen Tools profitieren können. Das bedeutet aber auch, dass ChatGPT Lehrer nicht ersetzen kann, sondern eine kontinuierliche Unterstützung des Lernprozesses erfordert. Ansonsten wiederholt sich, was sich bereits in anderen digitalen Lehr- und Lernangeboten gezeigt hat: Die stärksten Schüler profitieren enorm, während die schwächsten noch weniger effektiv lernen. Beim Lesenlernen könnte die sogenannte Eye-Tracking-Technologie in KI-gestützten Schulbüchern erkennen, ob Kinder dem Lesen folgen können. Ähnliche Muster sind bei Sprachdefiziten und Lernschwierigkeiten denkbar.

Eines der größten Risiken für KI-Forscher sind nicht nur Urheberrechtsfragen, sondern auch das Risiko, dass Studenten viele persönliche Informationen an ChatGPT übermitteln, die sie nicht mehr kontrollieren können, da das System von einem privaten Unternehmen in den USA betrieben wird. Darüber hinaus können Benutzer leicht Urheberrechtsverletzungen begehen, wenn ChatGPT Teile von urheberrechtlich geschütztem Text verwendet, die dem Original ähnlich oder sogar identisch sind, aber für den Benutzer nicht erkennbar sind.

FDP: Keine Angst vor künstlicher Intelligenz

Berlin hat als erstes Land ein Dokument zum Management von KI in Schulen am Beispiel von ChatGPT veröffentlicht, das sich mit Selbstlernmöglichkeiten und Selbstkontrolle des Lernfortschritts befasst, aber auch den von ChatGPT generierten Text angibt, der ein Output ist Ihre, sollte auf jeden Fall als unbefriedigend eingestuft werden. Weitere Länder und die Kultusministerkonferenz werden folgen.

Im Positionspapier zu KI in der Bildung konzentriert sich die FDP-Bundestagsfraktion vor allem auf die Möglichkeiten. „Angst vor KI sollte unser Handeln nicht leiten. Die FDP setzt aber auch neue Maßstäbe, indem sie denkt, dass die Wissensvermittlung in Zukunft vor allem durch KI-basierte Lerntools erfolgen wird. Wenn sie Lehrer entlassen können, können sie sie sicherlich nicht ersetzen. Sinnvoller erscheint hingegen der Vorschlag der FDP, KI für Bildungsdiagnostik und Leistungsbeurteilung einzusetzen, um Förderbedarfe und objektive Beurteilungskriterien sicherzustellen.

Die Einstufung von Chatbots als „High-Risk-Apps“, wie sie derzeit auf europäischer Ebene diskutiert wird, lehnen die Liberalen entschieden ab. Daher „wäre ihr Einsatz beispielsweise in Schulen praktisch unmöglich“, stellt das der FAZ vorliegende Dokument klar. Bei der Diagnostik etwa vor Schuljahresbeginn oder bei Schulaufnahmeprüfungen könnten Anwendungen künstlicher Intelligenz eine große Hilfe sein, wenn Lehrer damit umgehen können. „Debatten über Ethik und Datenschutz müssen realistisch sein, nicht unrealistisch“, heißt es in dem Positionspapier der Liberaldemokraten.