Künstliche Intelligenz in Schule und Familie

Gegenargumente

• Eine der wichtigsten Aufgaben von Schule ist es, Kinder und Jugendliche auf die Lebensrealität und Zukunft vorzubereiten. Dazu gehört auch der verantwortungsvolle Umgang mit digitalen Werkzeugen.

• KI-Anwendungen sind Teil der heutigen Lebenswelt – sie zu ignorieren würde nicht zur Selbstständigkeit führen, sondern Kinder unvorbereitet lassen.

• Deshalb ist es essenziell, Kinder und Jugendliche zu einem reflektieren und verantwortungsvollen Umgang mit Künstlicher Intelligenz zu befähigen.

Gegenargumente

• Werden KI-Anwendungen eingesetzt, dann passen Lehrkräfte die Art der Hausaufgaben an – weg von Wissensfragen hin zu Aufgaben, die eine persönliche Reflexion, kreative Anwendung oder kritische Analyse der von der KI gelieferten Ergebnisse erfordern. Solche Aufgaben machen den Einsatz von KI nicht nur sinnvoll, sondern bieten auch neue Lernmöglichkeiten.

• An die Erfordernisse von KI-Anwendungen angepasste Hausaufgaben sind nach wie vor hilfreich, denn sie ermöglichen das in der Schule Gelernte noch einmal zu wiederholen und zu vertiefen.

• Umso wichtiger ist es, dass Schülerinnen und Schüler lernen, wie sie KI-Anwendungen verantwortungsvoll zur persönlichen Unterstützung bei den Hausaufgaben einsetzen können.

Gegenargumente

• Eine gute Lehrer-Schüler-Beziehung ist eine wesentliche Voraussetzung für Lernerfolge – wissenschaftliche Studien belegen dies auch (Hattie 2012).

• Deshalb bleibt der persönliche Austausch, die Begleitung durch die Lehrkraft, aber auch der Austausch unter den Schülerinnen und Schülern zentraler Bestandteil jeden Unterrichts.

• KI-Anwendungen sind immer nur Hilfsmittel. Sie werden punktuell und nur dann eingesetzt, wenn sie den Lernprozess sinnvoll unterstützen.

• Der Einsatz von KI-Anwendungen wird immer von der Lehrkraft angeleitet und beaufsichtigt.

Gegenargumente

• Die Schule setzt ausschließlich datenschutzkonforme und pädagogische geprüfte KI-Anwendungen ein, die von der Schulleitung genehmigt wurden.

• Alle KI-Anwendungen erfüllen die strengen Anforderungen der DSGVO (Datenschutzgrundverordnung) sowie der KI-Verordnung der Europäischen Union (EU IA Act).

• Sofern keine gesetzliche Gesetzesgrundlage vorhanden ist, holt die Schule vor der erstmaligen Nutzung ist die Einwilligung eines Erziehungsberechtigen ein.

• Es ist sichergestellt, dass die eingegebenen Daten nicht zur Weiterentwicklung der KI-Anwendung (Trainingszwecken) verwendet werden.

• Lehrkräfte, die KI-Anwendungen verwenden, wurden zuvor geschult, z. B. mit Hilfe des Selbstlernkurses der ALP oder weiteren Fortbildungen.

• Schülerinnen und Schüler werden dafür sensibilisiert, keine persönlichen Informationen oder personenbezogene Daten mit der KI-Anwendung zu teilen.

Gegenargumente

• Es stimmt: KI Ergebnisse können fehlerhaft sein. Auch können sie Vorurteile aus Trainingstexten übernehmen. 

• Genau aus diesem Grund müssen Schülerinnen und Schüler aber auch Lehrkräfte, die Ergebnisse von KI-Anwendungen immer kritisch prüfen. 

• Die Schule ist ein geschützter Ort, an dem Kinder und Jugendliche unter der Aufsicht von Lehrkräften den kritischen und reflektierten Umgang mit KI-Anwendungen sicher und pädagogisch begleitet lernen können.

Künstliche Intelligenz (KI) bedeutet, dass Maschinen so programmiert werden, dass sie Dinge tun können, die normalerweise menschliches Denken erfordern – zum Beispiel Lernen, Entscheidungen treffen oder Probleme lösen.

Künstliche Intelligenz funktioniert, indem große Datenmengen analysiert und daraus Muster erkannt werden. Bekannte Beispiele für KI-Anwendungen sind Sprachassistenten, wie zum Beispiel Siri oder Alexa, die auf Fragen antworten und Befehle ausführen können oder Empfehlungssysteme, die uns Filme oder Musik vorschlagen, die uns gefallen könnten.

Link zum Erklärvideo (2:19)

Generative KI ist eine spezielle Form von Künstlicher Intelligenz, die neue Inhalte wie Texte, Bilder, Musik oder Videos erstellen kann. Generative KI „lernt” gewissermaßen aus vielen Beispielen und nutzt dieses Wissen, um etwas völlig Neues zu erzeugen.

Der Unterschied zu anderen Formen Künstlicher Intelligenz ist, dass generative KI nicht nur analysiert oder Entscheidungen trifft, sondern auch Neues kreiert. Zum Beispiel hilft eine normale KI bei der Bilderkennung (z. B. „Das ist eine Katze“), während eine generative KI ein komplett neues Bild einer Katze malen kann, das vorher nicht existiert hat.

Ein Large Language Model (LLM, großes Sprachmodell) ist eine Art Computerprogramm, das mit enormen Mengen an Texten, z. B. aus Büchern, Artikeln und dem Internet, trainiert wurde. Dadurch kann es Sprache analysieren und selbst Texte generieren. Es kann Antworten auf Fragen geben, Geschichten erstellen oder Erklärungen für Sachverhalte liefern.

Allerdings hat ein LLM kein Bewusstsein und kann Dingen keine echte Bedeutung geben. Stattdessen basieren seine Antworten oder Ergebnisse auf Wahrscheinlichkeiten: Large Language Models erkennen Muster in Texten und berechnen, welches Wort am wahrscheinlichsten als nächstes passt. Deshalb ist es wichtig, die Antworten eines LLM immer sorgfältig auf ihre Sinnhaftigkeit und Richtigkeit zu prüfen.

Der grundlegende Unterschied zwischen traditionellen Suchmaschinen und KI-Suchmaschinen liegt in ihrer Fähigkeit, Suchanfragen zu interpretieren. Traditionelle Suchmaschinen suchen nach Webseiten mit exakten Übereinstimmungen mit den eingegebenen Suchbegriffen. Dies funktioniert gut für einfache und eindeutige Suchanfragen, stößt aber an Grenzen, wenn die Suchanfrage komplex oder mehrdeutig ist.

KI-Suchmaschinen analysieren die Bedeutung der Suchanfrage, einschließlich der Beziehungen zwischen den Wörtern, des Kontexts und der Absicht des Nutzers. Dies ermöglicht es ihnen, relevantere Ergebnisse zu liefern, auch wenn die Suchanfrage nicht perfekt formuliert ist.

Eine KI-Anwendung gibt direkt eine fertige Antwort. Sie „weiß“ die Dinge aber nicht wirklich, sondern „rechnet“ sich eine Antwort aus, die aber nicht immer stimmen muss.

Mittlerweile geben die meisten traditionellen Suchmaschinen als erstes Ergebnis eine KI-generierte Antwort aus, die nicht mit den gefundenen Links verwechselt werden sollte.

Wenn es heißt, „eine KI halluziniert“, ist damit gemeint, dass eine KI-Anwendung falsche oder frei erfundene Informationen liefert, die jedoch oft überzeugend und glaubwürdig erscheinen.

Zur Erklärung: KI-Systeme sind (derzeit) nicht in der Lage, Dinge tatsächlich zu verstehen. Sie analysieren lediglich die Muster und Strukturen in den Daten, mit denen sie trainiert wurden, und generieren darauf basierend Texte. Halluzinationen können beispielsweise entstehen, wenn die Trainingsdaten fehlerhaft oder unvollständig sind, oder wenn das KI-System Informationen falsch kombiniert. Außerdem neigen KI-Systeme dazu, Lücken in ihrem „Wissen“ zu füllen, indem sie versuchen, eine plausible Antwort zu imitieren. Das Ergebnis kann dann wie eine fundierte Aussage wirken, ist aber inhaltlich falsch.

Grundsätzlich ja, allerdings unter folgenden Voraussetzungen: Das KI-System muss zunächst von der Schulleitung geprüft und für die Nutzung frei gegeben werden und die Schule darf ein KI-System nur einführen, wenn sie für die Schulung der Lehrkräfte sorgt.

Darüber hinaus besteht für jede Lehrkraft in Bayern die generelle Verpflichtung, sich regelmäßig zu aktuellen Neuerungen und Themen fortzubilden.

Die Schule nutzt ausschließlich geprüfte, datenschutzkonforme Systeme, die die geltenden Vorschriften (z. B. DSGVO) einhalten. Dafür schließt die Schule immer einen sogenannten Auftragsverarbeitungsvertrag nach DSGVO mit dem Anbieter ab.

Bei der Verwendung von KI-basierten Anwendungen werden die rechtlichen (z. B. Altersgrenzen, Jugendschutz, Urheberrecht) und schulischen Rahmenbedingungen (z. B. pädagogische Erwägungen, LehrplanPLUS, Medienbildung/digitale Bildung) beachtet. Schülerinnen und Schüler können also in einem geschützten Raum Erfahrungen im Umgang mit KI-Anwendungen machen.

Flyer klicksafe „Bleib Safe“

Eingaben, wie Prompts, hochgeladene Bilder oder Audiodateien, werden an das KI-System und somit auch den Anbieter übermittelt. Daher kann die Eingabe personenbezogener Daten in den Nutzungsbedingungen oder durch die Schulleitung untersagt sein. Lehrkräfte sensibilisieren ihre Schülerinnen und Schüler dahingehend.

Darüber hinaus sollte die Schule darauf hinwirken, dass die Anbieter der in der Schule verwendeten KI-Systeme keine personenbezogenen Daten der Schülerinnen und Schüler verarbeiten. Werden personenbezogene Daten verarbeitet, ist seitens der Schulleitung zu klären, ob eine gesetzliche Rechtsgrundlage besteht, die das ermöglicht. Falls diese Rechtsgrundlage nicht gegeben ist, ist die Einwilligung der Schülerinnen und Schüler und ggf. von Ihren Erziehungsberechtigten notwendig.

Am besten ist es, wenn weder durch das KI-System noch durch den KI-Anbieter personenbezogene Daten Ihres Kindes verarbeitet werden.

Sollten doch durch das KI-System oder den KI-Anbieter personenbezogene Daten verarbeitet werden, so hat die Schule für eine datenschutzkonforme Verarbeitung zu Sorgen. Sie prüft beispielsweise, ob eine gesetzliche Rechtsgrundlage vorliegt oder die Einwilligung der Schülerinnen und Schüler und ggf. von Ihnen als Erziehungsberechtigte notwendig ist und schließt mit dem Anbieter des KI-Systems einen Auftragsverarbeitungsvertrag (AVV), der eine sichere Verarbeitung regelt.

Die Schule stellt sicher, dass Eingaben der Schülerinnen und Schüler, nicht für das Training bzw. die Weiterentwicklung der KI-Anwendung verwendet werden.

Sie können sich jederzeit an den Datenschutzbeauftragten der Schule wenden oder auch direkt mit der Schulaufsicht oder der Datenschutzaufsichtsbehörde Kontakt aufnehmen.

Eine verpflichtende Nutzung für Schülerinnen und Schüler ohne Einwilligung ist denkbar, wenn die KI-Anwendungen von der Schulleitung geprüft und freigegeben wurde und die Nutzung unter Aufsicht der Lehrkraft erfolgt. Sollen Schülerinnen und Schüler, die jünger als 16 Jahre sind, KI-Anwendungen wie Chatbots eigenständig für die häusliche Vor- und Nachbereitung nutzen, gilt es, die Einwilligung der Eltern einzuholen und den Einsatz für Eltern transparent darzustellen. Diese Einwilligung kann jederzeit widerrufen werden.

Da KI-Anwendungen inhaltlich falsche Ergebnisse liefern können, die überzeugend wirken, müssen die Ergebnisse immer kritisch geprüft werden – sowohl von Lehrkräften als auch von Schülerinnen und Schülern. Die KI unterstützt nur und ersetzt kein eigenes Wissen. Die Verantwortung für den sinnvollen Einsatz und Umgang liegt bei der Lehrkraft, die ihre Schülerinnen und Schüler auch für die Fehleranfälligkeit der KI-Ergebnisse sensibilisiert. Für fehlerhafte Ergebnisse haften Lehrkräfte nicht.

KI-Anwendungen eröffnen neue Wege, um Lernprozesse individuell begleiten und besser unterstützen zu können. So können KI-Anwendungen beispielsweise helfen, komplexe Inhalte verständlicher aufzubereiten, Texte an das Sprachniveau der Lernenden anzupassen oder interaktive Aufgaben anzubieten, die auf den Lernstand der einzelnen Schülerin bzw. des einzelnen Schülers zugeschnitten sind.

Darüber hinaus kann durch den Einsatz von KI-Anwendungen im Unterricht die Medienkompetenz der Kinder und Jugendlichen gefördert werden: Schülerinnen und Schüler lernen, digitale Werkzeuge sinnvoll einzusetzen, Ergebnisse kritisch zu hinterfragen und die Funktionsweise von KI-Systemen zu verstehen. So werden sie Schritt für Schritt an die reflektierte und verantwortungsbewusste Nutzung digitaler Technologien herangeführt. Ungeachtet der genannten Potentiale sind KI-Anwendungen kein Ersatz für bewährte Unterrichtsmethoden. Vor allem die persönliche Begleitung durch Lehrkräfte, das gemeinsame Lernen und kritisches Denken bleiben die Basis jeden guten Unterrichts.

Durch den Einsatz von KI im Unterricht lernt Ihr Kind nicht nur fachliche Inhalte, sondern entwickelt auch wichtige Zukunftskompetenzen. Unter Anleitung und Aufsicht der Lehrkräfte wird der eigenverantwortliche und reflektierte Umgang mit KI-Anwendungen gefördert. Ihr Kind lernt, eigene Fragen zu formulieren, digitale Rückmeldungen zu nutzen und Informationen kritisch zu bewerten.

Im Umgang mit KI-Chatbots liegt ein Schwerpunkt auf dem sogenannten „Prompten“ – der Fähigkeit, klare und präzise Eingaben für KI-Systeme zu formulieren. Diese Fähigkeit ist entscheidend für die Qualität der Ergebnisse in der digitalen Umgebung und wird in einer zunehmend KI-geprägten Arbeitswelt immer zentraler.

Gleichzeitig lernt Ihr Kind den verantwortungsbewussten und sicheren Umgang mit KI-generierten Ergebnissen und erfährt, dass für eine qualitativ umfangreiche Bewertung dieser Ergebnisse die Aneignung von Wissen im herkömmlichen Sinne weiterhin unverzichtbar ist. Auf diese Weise stärkt der Einsatz von KI-Anwendungen die Selbstständigkeit, Problemlösefähigkeit und den verantwortungsvollen Umgang mit digitalen Werkzeugen – Kompetenzen, die in der digitalen Zukunft unverzichtbar sind.

KI-Anwendungen werden im Unterricht ganz unterschiedlich genutzt – je nach Fach, Thema und Alter der Schülerinnen und Schüler. So unterstützen z. B. KI-basierte Lernprogramme im Fach Mathematik das Üben durch individuell angepasste Aufgaben. Im Deutschunterricht können Kinder und Jugendliche mit Hilfe einer KI-Anwendung Texte überarbeiten oder sich Formulierungsvorschläge anzeigen lassen. In Kunst werden Bildgeneratoren genutzt, um eigene Ideen zu visualisieren.

Dabei lernen die Schülerinnen und Schüler nicht nur die Technik zu bedienen, sondern auch, die Ergebnisse zu prüfen, kritisch zu bewerten und eigene Lösungen weiterzuentwickeln.

Nein – KI-Anwendungen können die Lehrkraft nicht ersetzen und das ist auch nicht ihr Ziel. Lernen ist mehr als Informationsverarbeitung: Es ist ein individueller, sozialer und emotionaler Prozess.

Lehrkräfte begleiten Schülerinnen und Schüler nicht nur fachlich, sondern auch persönlich. Sie erkennen Bedürfnisse, motivieren, geben Orientierung und schaffen eine vertrauensvolle Lernumgebung. KI kann dabei punktuell unterstützen (z. B. durch Erklärungen oder passgenaue Übungen) aber sie übernimmt keine pädagogische Verantwortung. Die Beziehung zwischen Lehrkraft und Schülerinnen und Schülern, das gemeinsame Lernen in der Gruppe und die Förderung der Persönlichkeit bleiben unersetzlich.

Im häuslichen Umfeld gelten andere Bedingungen als in der Schule. Viele frei verfügbare KI-Tools im Internet sind nicht kindgerecht, speichern Nutzerdaten oder verwenden Inhalte für eigene Zwecke. Auch der Schutz vor ungeeigneten Inhalten oder manipulativen Funktionen ist nicht immer gewährleistet.

Deshalb empfehlen wir:

• Am besten verwenden Sie nur KI-Anwendungen, bei denen keine Registrierung beim Anbieter erforderlich ist. Sensibilisieren Sie Ihr Kind, keine personenbezogenen Daten in die KI-Anwendung einzugeben.

• Achten Sie auf Hinweise zu Altersfreigaben oder Datenschutz – vertrauenswürdige Informationen finden Sie z. B. auf klicksafe oder medien-kindersicher.

• Sprechen Sie mit Ihrem Kind über die richtige Nutzung: KI kann helfen, Aufgaben zu verstehen oder Ideen zu entwickeln – aber sie soll das eigene Denken nicht ersetzen.

Wenn Sie unsicher sind, wenden Sie sich an die Schule Ihres Kindes. Diese unterstützt Sie bei der Auswahl geeigneter Anwendungen oder ermöglicht Ihrem Kind den Zugriff auf schulisch geprüfte Systeme.

Flyer klicksafe „Bleib Safe“

Ob und in welchem Rahmen KI-Anwendungen sinnvoll eingesetzt werden können, hängt vom Fach, der Aufgabenstellung und dem Alter des Kindes ab.

Typische Einsatzmöglichkeiten zu Hause können sein:

• Ideen sammeln für einen Aufsatz oder ein Referat, z. B. durch Brainstorming-Hilfen oder Gliederungsvorschläge.

• Erklärungen zu Fachbegriffen oder grammatikalischen Strukturen nachlesen, z. B. in Deutsch, Englisch oder Geschichte.

• Texte überarbeiten, z. B. in Hinblick auf Satzbau, Rechtschreibung oder Ausdruck – als digitale Rückmeldung, nicht als automatische Korrektur.

• Vokabeln oder Lerninhalte üben, etwa durch Quizfragen oder einfache Verständnisfragen.

Wichtig: Die Nutzung sollte begleitet oder gemeinsam reflektiert werden – besonders bei jüngeren Kindern.

Sie müssen kein Technikprofi sein, um Ihr Kind gut zu begleiten. Wichtig ist vor allem, dass Sie Interesse zeigen und im Gespräch bleiben.

Hier ein paar ganz konkrete Möglichkeiten für dem Alltag:

• Fragen Sie nach: Lassen Sie sich zeigen, wofür Ihr Kind KI nutzt – z. B. bei der Vorbereitung eines Referats oder beim Schreiben eines Textes. Fragen wie „Wie bist du auf diese Idee gekommen?“ oder „Was hat dir die KI vorgeschlagen?“ helfen beim Reflektieren.

• Stellen Sie gemeinsam Regeln auf: Zum Beispiel: keine persönlichen Daten eingeben, Ergebnisse immer überprüfen, die KI nur als Unterstützung nutzen – nicht als Ersatz fürs eigene Denken.

• Teilen Sie eigene Erfahrungen: Vielleicht haben Sie selbst schon eine KI-Anwendung benutzt – z. B. beim Formulieren einer E-Mail oder zur Routenplanung. Zeigen Sie, dass auch Erwachsene noch dazulernen.

• Nutzen Sie kindgerechte Informationsseiten: Seiten wie klicksafe oder fragzebra helfen, einen Überblick zu gewinnen.

• Und wenn Sie unsicher sind: Wenden Sie sich an die Schule Ihres Kindes – diese unterstützt Sie gerne bei Fragen rund um den KI-Einsatz zu Hause.

Ein grundlegendes Wissen ist wichtig, um sein Kind unterstützen zu können. Informieren Sie sich über das Thema auf einschlägigen Webseiten wie zum Beispiel

• klicksafe,

• fragzebra,

• weitklick,

• schau-hin,

• „Künstliche Intelligenz in der pädagogischen Praxis“ (StMUK)

Oder wenden Sie sich bei Fragen an die Schule Ihres Kindes. Viele Schulen bieten auch Informationsabende, Materialien und persönliche Ansprechpartner, die Ihnen weiterhelfen.