Texte können durch den Einsatz von textgenerierender KI wesentlich schneller, einfacher und in größerem Umfang als bisher erstellt werden. Auch wenn ein KI-generierter Text überwiegend belastbare Fakten enthält, kann er auch Falschaussagen enthalten, die ihrerseits den Anschein erwecken, auf Fakten zu beruhen. Je ausgefeilter jedoch die Mittel sind, mit denen Texte Wirklichkeit vortäuschen, desto schwieriger wird es, Fehler und Falschinformationen zu erkennen.
Daher ist es besonders wichtig, das Thema „Fehlinformationen“ im Unterricht zu behandeln. Vor allem sollten die Schülerinnen und Schüler dafür sensibilisiert werden, dass die generierten Antworten fehlerhaft oder lückenhaft sein können. Das Training von ChatGPT wurde beispielsweise im Sommer 2021 abgeschlossen, die Welt danach ist also zunächst noch unbekannt. Textgenerierende KIs wie ChatGPT füllen zudem „Wissenslücken“ durch Neukombinationen von Textfragmenten oder Ausschmückungen. Das zugrundeliegende Sprachmodell ist darauf trainiert, Texte zu erzeugen, die sich so lesen, als wären sie von einem Menschen verfasst worden. Da die KI-Anwendung maschinell lernt, ist es auch für die Entwicklerinnen und Entwickler nicht möglich, genau vorherzusagen, welche Antwort auf welche Eingabe erfolgt. Würde man das Training dahingehend optimieren, dass nur belastbare Fakten ausgegeben werden, könnte dies dazu führen, dass häufig gar keine Antwort gegeben wird, was nicht das Ziel des Sprachmodells ist. Das System zielt also mehr auf Eloquenz als auf Wahrheit ab. Darüber hinaus besteht auch bei der Textgenerierung selbst ein gewisses Risiko, dass falsche oder unvollständige Aussagen getroffen werden, da die Textgenerierung auf Wahrscheinlichkeiten basiert. Die generierten Inhalte dürfen daher nicht unreflektiert übernommen werden, sondern müssen von den Lernenden kontrolliert werden. Dies ist nur möglich, wenn sich die Lernenden zuvor ausreichend eigenes Wissen über das Thema angeeignet haben.
Medienkompetenz gewinnt damit noch einmal an Bedeutung. Gerade die Fähigkeit, Fake News von Fakten auf der Basis eigenen gesicherten Wissens zu unterscheiden, wird immer wichtiger werden.
(vgl. Umgang mit textgenerierenden KI-Systemen: Ein Handlungsleitfaden, Ministerium für Schulen und Bildung des Landes Nordrhein-Westfalen)