Die Strategie „Bildung in der digitalen Welt“ benennt im Rahmen der „Kompetenzen in der digitalen Welt“ folgende Kompetenzen:
5.5. Algorithmen erkennen und formulieren
5.5.1. Funktionsweisen und grundlegende Prinzipien und digitale Welten kennen und verstehen
5.5.2. Algorithmische Strukturen in genutzten digitalen Tools erkennen und formulieren
5.5.3. Eine strukturierte, algorithmische Sequenz zur Lösung eines Problems planen und verwenden
In Rheinland-Pfalz finden sich diese Kompetenzen zusammengefasst im MedienkomP@ss: „Anwenden und Handeln – Funktionsweisen und grundlegende Strukturen digitaler Werkzeuge erkennen, Algorithmen verstehen und selbst in Sequenzen anwenden“
Bei der Auseinandersetzung mit textgenerierenden KI-Anwendungen können drei Perspektiven leitend sein:
die technologische Perspektive: Wie funktioniert ein KI-Textgenerator?
die soziokulturelle Perspektive: Welche gesellschaftlichen Auswirkungen hat der Einsatz von KI?
die anwendungsbezogene Perspektive: Wofür kann die KI-Anwendung genutzt werden und was ist dabei zu beachten?
Welche rechtlichen und praktischen Rahmenbedingungen sind bei der Nutzung im unterrichtlichen Zusammenhang zu beachten?
Im Zusammenhang mit dem Einsatz von KI-Anwendungen im Unterricht sind verschiedene rechtliche Aspekte zu beachten, insbesondere im Hinblick auf die Verarbeitung, Auswertung und ggf. Weitergabe personenbezogener Daten, die derzeit noch nicht abschließend beurteilt werden können. Dies auch deshalb, weil die jeweiligen Einsatzmöglichkeiten und Einsatzbedingungen von KI-Anwendungen unterschiedlich sein können.
Unabhängig davon gilt, dass der Einsatz von KI-Anwendungen im Unterricht - wie auch die Nutzung einer Online-Plattform oder einer App – nur unter Beachtung der geltenden und bekannten datenschutzrechtlichen Vorgaben erfolgen darf. Die Verantwortung für die Einhaltung des schulischen Datenschutzes liegt bei der jeweiligen Schulleitung. Dabei ist sorgfältig zu prüfen, inwieweit personenbezogene Daten der Nutzerinnen und Nutzer anfallen und ggf. technische oder organisatorische Maßnahmen zu deren Schutz zu ergreifen sind.
Hinweise, welche Daten der Anbieter einer KI-Anwendung verarbeitet, finden sich insbesondere in der Datenschutzerklärung und den Allgemeinen Geschäftsbedingungen. Dabei kann es sich z. B. um Daten handeln, die für die Nutzung grundsätzlich erforderlich sind, wie z. B. bei der Erstellung eines Accounts (hier sind ggf. Altersbeschränkungen zu beachten). Aber auch solche Daten, die bei der konkreten Nutzung (automatisch) anfallen. Wichtig ist daher, dass ein Anbieter transparent über seine Datenverarbeitung und insbesondere über die Rechte auf Löschung informiert.
Mit Blick auf die verschiedenen Einsatzszenarien in der Schule und die bisherigen Erkenntnisse zu den Nutzungsbedingungen einer KI-Anwendung wie ChatGPT lassen sich folgende Einschätzungen und Hinweise ableiten:
Die Nutzung von ChatGPT im Unterricht mit eigenen Geräten der Schülerinnen und Schüler bzw. über eigene Accounts/E-Mail-Adressen kann angesichts der aktuellen Sach- und Rechtslage (insbesondere mit Blick auf datenschutzrechtliche Vorgaben) nicht empfohlen werden.
Sofern Lehrkräfte auf freiwilliger Basis über einen Zugang zu ChatGPT oder anderen KI-Anwendungen verfügen, können sie diesen nutzen, um im Plenum mit den Schülerinnen und Schülern mit der KI-Anwendung zu arbeiten. Dabei ist wie bei allen anderen Anwendungen darauf zu achten, dass keine personenbezogenen Daten der Schülerinnen und Schüler übertragen werden. Dies wäre z. B. der Fall, wenn Eingaben verwendet werden, die einen Bezug zur Klasse oder zu einzelnen Schülerinnen und Schülern herstellen.
Es wird empfohlen, auch die Eltern über die Art und Weise des Einsatzes einer KI-Anwendung im Unterricht und den Rahmen der rechtlich zulässigen Möglichkeiten zu informieren. Ebenso kann die Information über KI-Anwendungen in den Mitwirkungsgremien dazu beitragen, eventuell bestehende Unsicherheiten abzubauen.
Wie eine Nutzung durch Schülerinnen und Schüler mit eigenem Account zukünftig möglich sein wird, hängt von der Ausgestaltung der Nutzungsbedingungen und Datenschutzrichtlinien der Anwendung(en) im Einzelfall ab.
Hilfreich für die schulische Praxis können auch erste Einschätzungen aus Sicht der schulischen Datenschutzbeauftragten sein, die z. B. unter https://www.datenschutz.rlp.de/de/aktuelles/detail/news/News/detail/neue-inhalte-zu-ki-und-chatgpt/ zu finden sind.
(vgl. Umgang mit textgenerierenden KI-Systemen: Ein Handlungsleitfaden, Ministerium für Schulen und Bildung des Landes Nordrhein-Westfalen)