Kinder, Jugendliche und das Internet der Dinge
Der Beitrag liefert einen Überblick über Chancen und Risiken von smarten Geräten und digitalen Sprachassisstenten im Kinderzimmer sowie Smartwatches.
Mit dem Voranschreiten der Digitalisierung an den Schulen gibt es auch immer mehr verfügbare algorithmenbasierte Unterrichts- und Lernszenarien. Die Spanne reicht vom klassischen Vokabeltrainer nach dem Karteikastenprinzip bis zur umfassenden Auswertung von Lerndaten in komplexen Lernplattformen.
Im Hinblick auf die Schul- und Unterrichtsentwicklung ergeben sich dadurch viele neue Fragestellungen im Bereich der digitalen Ethik, die zum Teil auch in politischen und gesellschaftlichen Diskursen ausgehandelt werden müssen: Wie können solche Systeme trotz hoher Ansprüche an Sicherheit und Datenschutz noch ihr volles Potenzial entfalten? Welche Eingriffe in die Privatsphäre von Lehrkräften sowie Schülerinnen und Schülern können und wollen wir hinnehmen, um damit eine Verbesserung der Schulleistungen zu erreichen? Wer trägt letztendlich die Verantwortung für den Lernprozess - der Mensch oder die Maschine?
Begriffsbestimmung
Unter Learning Analytics versteht man die algorithmische Auswertung von Daten über Lernende. Im schulischen Raum erfolgt dies in der Regel über Lernplattformen, die von der Schule, dem entsprechenden Bildungsträger oder einem externen Anbieter zur Verfügung gestellt werden. Dabei werden zum einen Daten über die Lernenden selbst gesammelt. Im Fokus stehen dabei besonders Daten, die den Lernprozess betreffen. Hier werden Informationen zum Lernverhalten, dem Lernprozess, dem Lernfortschritt und den Lernergebnissen gesammelt und ausgewertet. (vgl. Köchling & Kaiser, 2024)
Die nachfolgenden Ausführungen zu den Chancen und Risiken von Learning Analytics basieren auf der Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” des Deutschen Ethikrats (2023).
Chancen
Die Erhebung von Daten zum Lernprozess von Lernenden ist nichts Neues. Lernstandserhebungen, Beobachtungen zum Lernverhalten, Leistungsmessung und -bewertung stellen das Kerngeschäft jeder Lehrkraft dar. Systeme, die auf Learning Analytics beruhen führen diese Abläufe jedoch automatisiert durch. Algorithmische Systeme erheben die Daten und setzten sie selbstständig miteinander in Bezug. Auf diese Weise erhalten die Lehrenden, aber auch die Lernenden einen raschen Überblick über den aktuellen Lernstand. Zudem lassen sich Zusammenhänge von bestimmten Variablen und dem Lernerfolg herausfinden.
Das volle Potenzial wird aber erst mit einer entsprechenden Nutzung der Erkenntnisse entfaltet. D. h. indem die Lehrkraft oder die Plattform selbst auf Grundlage der Daten differenzierte Unterstützungsmaterialien zur Verfügung stellt. Komplexere Lernumgebungen bieten hier bereits automatisierte Verfahren an, indem den Lernenden je nach Lernstand unterschiedliche Schwierigkeitsgrade oder zusätzliche Visualisierungen und Erläuterungen angeboten werden. Nicht zuletzt im Hinblick auf Inklusion liegt hier ein enormes Potenzial. Zum einen können diese Technologien die Diagnose von Lernstörungen erleichtern. Zum anderen können passgenaue Fördermaterialien zur Verfügung gestellt werden.
Je nach Kontext und Gestaltung der Lernsettings sowie der zugrundeliegenden Algorithmen, können Lernsysteme auch einen Beitrag zu mehr Objektivität und zum Abbau von Chancenungerechtigkeit beitragen. Durch die automatisierte Auswertung entfallen ggf. unterschwellige Vorverurteilungen durch die Lehrenden.
Risiken
Digitale Technologien im Bildungsbereich bieten enorme Chancen. Damit einhergehend bergen sie jedoch immer auch Risiken.
Im Bereich Learning Analytics sind diese vor allem im Hinblick auf systematische Verzerrungen (im Informatischen als Bias bezeichnet) zu sehen. Dabei werden bestimmte Gruppen von Menschen aufgrund von automatisierten Entscheidungsprozessen benachteiligt. Zum Tragen kommen diese vor allem bei diagnostischen und vorhersagenden Systemen sowie Algorithmen, die auf Künstlicher Intelligenz beruhen. Diagnosen und Vorhersagen, die auf einer falschen Datenbasis beruhen, können fatale Auswirkungen haben. Wenn Schülerinnen oder Schülern aufgrund von fehlerhaften Prognosen beispielsweise der Zugang zu bestimmten Schulformen verweigert wird, stellt das einen enormen Eingriff in die Bildungsbiografie von Kindern und Jugendlichen dar. Hier müssen besonders hohe Ansprüche an Qualität sowie Transparenz verankert werden, die optimalerweise durch Menschen begleitet werden.
Jeglicher Datenerhebung immanent ist die Gefahr des Datenmissbrauchs. Vor allem externe und kommerzielle Anbieter haben ein großes Interesse an Daten, auch aus dem schulischen Kontext. Diese können zum einen für Werbezwecke eingesetzt werden. Zum anderen dienen sie aber auch der (Weiter-)Entwicklung von eigenen Produkten oder werden an andere Firmen weiterverkauft. Die Unternehmen sammeln Daten also vornehmlich aus finanziellen Interessen. Die Regularien der Datenschutz-Grundverordnung (DSGVO) geben den Bildungseinrichtungen über Transparenzgebote zumindest die Möglichkeit, einen Einblick in die Verwendung der Daten zu erhalten.
Bei allen digitalen Lernangeboten ist außerdem zu bedenken, dass elektronische Medien anders rezipiert werden als analoge. Über die Auswirkungen von KI-basierten Systemen auf das Lernverhalten gibt es noch wenig empirische Daten. Vermutungen, dass sich Auswirkungen auf die Motivation, die Selbstregulierung oder das problemlösende Denken ergeben könnten, liegen jedoch nahe.
Darüber hinaus betont der deutsche Ethikrat (2023), dass sich der Bildungsbegriff nicht auf eine reine Wissens- und Informationsvermittlung verengen darf. Insbesondere in den Jahren der Covid-19-Pandemie wurde deutlich, dass Schulen und Bildungseinrichtungen auch Orte des sozialen Lernens und der Gemeinschaft sind.
Fazit und Ausblick
In seiner Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” plädiert der Deutsche Ethikrat (2023) dafür, algorithmische Systeme vor allem zur Förderung der Lernenden und zur Entlastung der Lehrenden einzusetzen. Er betont jedoch auch die besondere Bedeutung von Schule als Raum der sozialen Begegnung. Wie so oft gilt es also auch diesem Bereich ein gesundes Mittelmaß an Technologie und menschlicher Interaktion zu finden.
Begriffsbestimmung
Während Learning Analytics vor allem auf konkrete Lerninhalte oder Lernprozesse fokussieren, nehmen Konzepte des Classroom Analytics die Dynamik ganzer Lerngruppen in den Blick. Sie berücksichtigen auch das Verhalten und die Interaktion der Lernenden und Lehrkräfte im Klassenraum, so weiterhin der Deutsche Ethikrat (2023).
Für solche Lernsettings müssen Daten in besonders ausgeprägtem Umfang erhoben werden. In Europa sind solche Szenarien aufgrund der engen Vorgaben der DSGVO nur im wissenschaftlichen Kontext zulässig.
Autoritäre Staaten haben hier weniger Berührungsängste. So werden beispielsweise an chinesischen Schulen mit entsprechenden Sensoren, Kameras, Mikrofonen und Wearables Daten über die Lernenden gesammelt. Zum einen werden dabei körperliche Daten (z. B. Puls, Körpertemperatur, Schritte) erhoben. Über Video- und Sprachanalysen werden zum anderen auch Mimik, Gestik, Körperhaltung, Tonlage und Sprechgeschwindigkeit erfasst, mit deren Hilfe man Rückschlüsse auf die emotionale und psychische Verfassung sowie das Sozialverhalten zieht, so der Deutsche Ethikrat 2023. Des Weiteren weist er in seiner Stellungaufnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” auf folgende Chancen und Risiken hin:
Chancen
Grundsätzlich bietet Classroom Analytics Ansatzpunkte zur Verbesserung von Pädagogik und Didaktik. Je mehr verschiedene Daten erhoben werden, desto bessere und individuellere Aussagen sind über das Lernverhalten und den Lernfortschritt des Individuums möglich. Durch die lückenlose Überwachung des Klassenraums kann zudem ein besseres Management von Lerngruppen erreicht werden. Auch die Lehrkraft wird in den Fokus genommen. So können die Lehrer-Schüler-Kontakte und die Bewegungsmuster im Klassenraum zielgerichtet in den Blick genommen werden und eine datenbasierte Reflexion des Lehrverhaltens ermöglichen. Dadurch können zum Beispiel auch implizite Vorurteile oder persönliche Präferenzen im Hinblick auf einzelne Lernende oder Schülergruppen aufgedeckt werden und zu einer Korrektur der eigenen Verhaltensweisen anregen.
Risiken
Classroom Analytics stellen durch die umfassende Datenerhebung einen massiven Eingriff in die Privatsphäre und Autonomie dar. Bereits die Sorge, dass bestimmte Daten erfasst und analysiert werden könnten, kann negative Auswirkungen auf das persönliche Empfinden und Verhalten haben. In der Wissenschaft wird dies als Chilling-Effekt beschrieben. Gerade im Bildungsbereich können hier Einbußen im Bereich der Handlungsfreiheit und der Motivation entstehen, die sich wiederum negativ auf den Lernerfolg auswirken können.
Am Beispiel China lässt sich gut darstellen, welche Auswirkungen die Zweck- und Kontextentfremdung von Daten haben kann. In einem Land, in dem bereits ein Social Scoring-System für große Teile der Bevölkerung etabliert ist können auch Informationen zu mangelhaften Schulleistungen zu Sanktionen in anderen gesellschaftlichen Bereichen führen.
Grundsätzlich sollte die Validität und Objektivierbarkeit von Daten nicht verabsolutiert werden. Jedem Datensatz kann grundsätzlich eine systemische Verzerrung (ein sogenannter Bias) zugrundliegen. Dieser kann bestehende Benachteiligungen oder Ungerechtigkeit reproduzieren oder gar vertiefen. Ein besonderes Augenmerk gilt hier dem Attention Monitoring (Erfassung der Aufmerksamkeit) und der Affekt Recognition (Erfassung der emotionalen Verfasstheit). Der deutsche Ethikrat sieht hier sowohl erkenntnistheoretische als auch ethische Problemfelder. In diesen Bereichen muss also eine besonders kritische Abwägung von Nutzen und Schadenspotenzial erfolgen.
Fazit und Ausblick
In seiner Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz” sieht der Deutsche Ethikrat (2023) im Hinblick auf eine umfassende Datenanalyse im Kontext von Classroom Analytics grundsätzliche Herausforderungen im Kontext Schule. Zum einen existieren an Schulen hierarchische und asymmetrische Machtverhältnisse. Zum anderen handelt es sich bei Kindern und Jugendlichen um eine besonders vulnerable Gruppe.
Die Sorge vor einer Etablierung von Classroom Analytics in deutschen Schulen dürfte derzeit jedoch unbegründet sein. Bestehende Rechtsnormen wie die DSGVO sowie arbeitsrechtliche Regularien sorgen für einen transparenten und sorgsamen Umgang mit Daten von Lernenden und Lehrenden. Der Artificial Intelligence Act der EU wird die bestehenden Normen um weitreichendere Richtlinien ergänzen. So werden KI-Anwendungen im Bereich der Bildung in eine hohe Risikokategorie eingeordnet und können daher nur unter strengen Auflagen zum Einsatz kommen.
Der Beitrag liefert einen Überblick über Chancen und Risiken von smarten Geräten und digitalen Sprachassisstenten im Kinderzimmer sowie Smartwatches.
Der Beitrag erläutert Chancen und Risiken der algorithmenbasierten Konzepte Learning Analytics und Classroom Analytics.
Es werden drei auf Risiken basierende ethische Fragestellungen aufgezeigt und Praxistipps gegeben, wie diesen Gefahren präventiv entgegengewirkt werden kann.
Digitalen Medien bieten eine Vielfalt an technischen Möglichkeiten. Damit steigt auch der Bedarf an Orientierung. Welche Werte, Regeln und Kompetenzen braucht es für ein verantwortungs- und rücksichtsvolles Miteinander im Netz?
Gamification: Wie lassen sich ethische Fragestellungen im Unterricht spielerisch thematisieren?
(Hinter-)Gründe, Beispiele und konkrete Tipps für den Umgang mit diesem Phänomen im Unterricht werden aufgezeigt.