Risiken
Digitale Technologien im Bildungsbereich bieten enorme Chancen. Damit einhergehend bergen sie jedoch immer auch Risiken.
Im Bereich Learning Analytics sind diese vor allem im Hinblick auf systematische Verzerrungen (im Informatischen als Bias bezeichnet) zu sehen. Dabei werden bestimmte Gruppen von Menschen aufgrund von automatisierten Entscheidungsprozessen benachteiligt. Zum Tragen kommen diese vor allem bei diagnostischen und vorhersagenden Systemen sowie Algorithmen, die auf Künstlicher Intelligenz beruhen. Diagnosen und Vorhersagen, die auf einer falschen Datenbasis beruhen, können fatale Auswirkungen haben. Wenn Schülerinnen oder Schülern aufgrund von fehlerhaften Prognosen beispielsweise der Zugang zu bestimmten Schulformen verweigert wird, stellt das einen enormen Eingriff in die Bildungsbiografie von Kindern und Jugendlichen dar. Hier müssen besonders hohe Ansprüche an Qualität sowie Transparenz verankert werden, die optimalerweise durch Menschen begleitet werden.
Jeglicher Datenerhebung immanent ist die Gefahr des Datenmissbrauchs. Vor allem externe und kommerzielle Anbieter haben ein großes Interesse an Daten, auch aus dem schulischen Kontext. Diese können zum einen für Werbezwecke eingesetzt werden. Zum anderen dienen sie aber auch der (Weiter-)Entwicklung von eigenen Produkten oder werden an andere Firmen weiterverkauft. Die Unternehmen sammeln Daten also vornehmlich aus finanziellen Interessen. Die Regularien der Datenschutz-Grundverordnung (DSGVO) geben den Bildungseinrichtungen über Transparenzgebote zumindest die Möglichkeit, einen Einblick in die Verwendung der Daten zu erhalten.
Bei allen digitalen Lernangeboten ist außerdem zu bedenken, dass elektronische Medien anders rezipiert werden als analoge. Über die Auswirkungen von KI-basierten Systemen auf das Lernverhalten gibt es noch wenig empirische Daten. Vermutungen, dass sich Auswirkungen auf die Motivation, die Selbstregulierung oder das problemlösende Denken ergeben könnten, liegen jedoch nahe.
Darüber hinaus betont der deutsche Ethikrat (2023), dass sich der Bildungsbegriff nicht auf eine reine Wissens- und Informationsvermittlung verengen darf. Insbesondere in den Jahren der Covid-19-Pandemie wurde deutlich, dass Schulen und Bildungseinrichtungen auch Orte des sozialen Lernens und der Gemeinschaft sind.