KI-Assistenten unterstützen uns im beruflichen Alltag, können beim Lernen helfen, uns unterhalten, aber auch öffentliche Räume durch Bilderkennung überwachen - die Bandbreite der Anwendungen von Künstlicher Intelligenz ist groß. Doch was bedeutet KI für unser Zusammenleben als Gesellschaft? Wo sollten KI-Systemen Grenzen gesetzt werden und wie kann das gelingen? Wie kann ich mit Schülerinnen und Schülern an diesen Fragen arbeiten?
„KI ist wahrscheinlich das Beste oder das Schlimmste, was der Menschheit passieren kann.” – Stephen Hawking, Physiker
KI-Systeme bieten viele Möglichkeiten: Bilder erkennen, Vorhersagen treffen, Texte und Bilder erzeugen, Dialoge führen sowie Maschinen selbständig lernen lassen. Diese Möglichkeiten lassen sich in verschiedensten Bereichen anwenden: in der Medizin, in der Industrie, bei der Überwachung von öffentlichen Plätzen, im Verkehr, in der Schule, zur Unterhaltung und vielen mehr.
Konkrete Beispiele für Systeme, die künstliche Intelligenz nutzen, sind Chatbots für verschiedenste Einsatzzwecke oder Autos, die autonom fahren. Weitere Beispiele sind verschiedenste KI-Systeme, die Polizeiarbeit unterstützen sollen, Deepfakes erzeugen oder in der medizinischen Diagnostik helfen.
Warum KI-Systeme voreingenommen sein können und wie man mit dieser Tatsache umgehen kann, erfahren Sie hier.
Der Einsatz von KI in der Schule bietet Chancen, birgt aber auch Risiken. Mehr über das Thema KI und Schule lesen Sie hier.
Da der Einsatz von künstlicher Intelligenz weitreichende Folgen für Individuen und die Gesellschaft hat, ergeben sich zahlreiche ethische Fragen wie die folgenden:
Nach Zweig sollte man KI-Systeme dort nicht einsetzen, „wo man die Qualität von Entscheidungen nicht bewerten kann“ (Zweig, APuZ, S. 7). Das heißt insbesondere, dass Maschinen keine Urteile treffen sollten, wo Werturteile erwartet werden. Demnach wäre es zwar erlaubt, eine Schülerarbeit durch eine Maschine korrigieren zu lassen, jedoch nicht sie zu bewerten, z.B. durch die Vergabe einer Schulnote. Ebenso sollten Maschinen keine singulären Entscheidungen treffen, da ihnen die entsprechenden „Erfahrungen“ in Form von Daten fehlen – wie etwa bei Entscheidungen über Lockdowns zur Eindämmung des Corona-Virus (Zweig, APuZ, S. 7ff).
Organisationen, die Zugang zu großen Datenmengen und Rechenkapazitäten haben, sind besonders gut darauf vorbereitet, von KI-Technologien zu profitieren. Dies kann dazu führen, dass nur einige wenige global agierende Unternehmen den Markt dominieren und Abhängigkeiten schaffen (Stahl, APuZ, S. 20). Ob diese Abhängigkeiten akzeptabel sind, ist eine ethische Frage, da sie die Selbstbestimmtheit des Menschen betrifft.
Die vermeintlich objektive Technologie kann Fehler machen. So werden z.B. bei der automatisierten Gesichtserkennung fast immer auch Menschen fälschlicherweise als gesucht („falsch-positiv”) markiert (Kayser-Bril, 2019).
Je nach Datengrundlage, mit der die KI trainiert wurde, kann die KI auch zu verzerrenden Ergebnissen in ihren Entscheidungen kommen.
Mehr über Verzerrungen durch KI lesen Sie hier.
Dies sind nur einige Beispiele für Fragen, die sich aus ethischer Sicht ergeben. Einen Überblick über das weite Feld Digitale Ethik finden Sie hier.
Zum Weiterlesen und zum Diskutieren: unter dem Titel „Gewissensbits“ bietet die Gesellschaft für Informatik e. V. (GI) praxisnahe Szenarien zu KI und autonomen Systemen an, die zur ethischen Reflexion und Diskussion anregen.
Ganz speziell für den Einsatz von KI in der Schule hat die EU-Kommission ethische Aspekte formuliert, an denen sich der Einsatz von KI-Systemen orientieren sollte (EU-Kommission Generaldirektion Bildung, Jugend, Sport und Kultur, 2022, S. 18):
Schule soll die Schülerinnen und Schüler zu mündigen Mitgliedern der Gesellschaft erziehen, d.h. sie sollen selbstbestimmt handeln und Verantwortung für ihr Handeln übernehmen können.
Schule soll garantieren, dass alle Schülerinnen und Schülern einen gleichberechtigten Zugang zu Technologien besitzen, keiner diskriminiert wird und Rechte und Pflichten gleich verteilt sind.
KI soll menschenzentriert sein, also die Menschen in ihrer Identität, Integrität und Würde achten und sie nicht als Datenobjekt oder Mittel zum Zweck sehen.
Entscheidungen müssen auf partizipativen Modellen zur Entscheidungsfindung beruhen, erklärbar und transparent sein.
Aktuell ist besonders die ökologische Nachhaltigkeit im Fokus. Doch was bedeutet Nachhaltigkeit eigentlich?
Der Begriff der Nachhaltigkeit wurde 1987 von einer Kommission der Vereinten Nationen geprägt: nachhaltige Entwicklung ist eine Entwicklung, die die Bedürfnisse der Gegenwart befriedigt, ohne zukünftige Generationen in ihren Bedürfnissen einzuschränken („Sustainable development is development that meets the needs of the present without compromising the ability of future generations to meet their own needs.”) (World Commission on Environment and Development, 1987, S. 54).
In der weiteren Entwicklung dieser Idee legten 2015 die Vereinten Nationen 17 Ziele von nachhaltiger Entwicklung (sustainable development goals, kurz: SDGs) fest (United Nations, 2015):
Damit wurde Nachhaltigkeit zu einem Konzept, das die Bereiche Ökologie, Zusammenleben in einer Gesellschaft und Ökonomie und ihre Wechselwirkungen gemeinsam betrachtet. Dieses Konzept kann auch auf die Entwicklung von KI-Systemen angewendet werden. Eine nachhaltige KI ist demnach gegeben, „wenn Entwicklung und Einsatz dieser Systeme die planetaren Grenzen respektiert, keine problematischen ökonomischen Dynamiken verstärkt und den gesellschaftlichen Zusammenhalt nicht gefährdet” (Rohde et al., 2021, S. 30).
(Abbildung nach Rohde et al., 2021, S. 28. Bei der Herstellung der Icons wurde Dall.E eingesetzt. @ISB)
Mehr über KI im Spannungsfeld ökologischer Nachhaltigkeit finden Sie hier.
Den Zusammenhang KI und Nachhaltigkeit untersuchen auch die Forschenden der gemeinnützigen GmbH AlgorithmWatch. Sie haben im Rahmen des Projekts SustAIn Kriterien und konkrete Indikatoren für eine nachhaltige KI entwickelt, die sich an den Zielen für nachhaltige Entwicklung, also den SDGs, orientieren. Auf der Webseite sustain.algorithmwatch.org stehen unter anderem Richtlinien und ein Bewertungstool für Organisationen zur Verfügung, die KI einsetzen möchten.
Die EU-Kommission hatte 2019 bereits „Leitlinien für eine vertrauenswürdige KI“ als Ausgangspunkt für die Diskussion über vertrauenswürdige KI für Europa veröffentlicht und darin z. B. gefordert: „Die Entwicklung, Einführung und Nutzung von KI-Systemen muss so erfolgen, dass die folgenden ethischen Grundsätze eingehalten werden: Achtung der menschlichen Autonomie, Schadensverhütung, Fairness und Erklärbarkeit“ (EU-Kommission Generaldirektion Kommunikationsnetze, Inhalte und Technologien, 2019, S. 16).
Das Regelwerk hat eine umfassende Regulierung aller KI-Systeme zum Ziel, steht jedoch vor der Herausforderung, dass es keine einheitliche Definition von KI gibt. Daher basiert der AI Act auf einer breiten Definition von KI, die auch zukünftige Entwicklungen im KI-Bereich im Blick hat, und verfolgt einen risikobasierten Ansatz, bei dem das rechtliche Eingreifen auf das Risiko-Niveau des jeweiligen KI-Systems zugeschnitten ist. Dazu unterscheidet das Werk zwischen den in der folgenden Grafik dargestellten vier Risiko-Stufen.
Mit der Verabschiedung des AI Act durch die Mitgliedsstaaten im Mai 2024 ist das weltweit erste Regelwerk für KI in Kraft getreten und muss nun durch Gesetze als nationales Recht umgesetzt werden (Presse- und Informationsamt der Bundesregierung, 2024).
KI-Regulierungen und Regulierungsformen bleiben dennoch eine globale Herausforderung, denn "Rein technikbezogene schematische Lösungen werden der Komplexität von KI, Menschen, Gesellschaften und normativen Systemen nicht gerecht. Mehr Bildung, Digitalkompetenz und eine lebhafte öffentliche Debatte sind gefordert.“ (Ruschemeier, 2023).
Noch zu klären sind z.B. rechtliche Fragen zu Urheberrecht und Datenschutz: dürfen zum Trainieren generativer KI urheberrechtlich geschützte Werke und personenbezogene Daten genutzt werden? Hier stehen konkrete Regelungen zum Schutz der Urheber und zum Datenschutz noch aus (Initiative Urheberrecht, 2023).
So breit gefächert wie das Thema sind auch die verfügbaren Unterrichtsmaterialien.
Die Unterrichtseinheit wurde vom Zentrum für Lehrerbildung der TU Chemnitz eine Unterrichtseinheit erstellt und umfasst Material und Umsetzungshinweise für 90-135 min.
Zielgruppe: Jgst. 3/4
Art des Materials: Video und Text
Link zum Material: https://mundo.schule/details/SODIX-0001089183
Die Hochschule für Medien in Stuttgart hat in einem Projekt mit Masterstudierenden, klicksafe und juuuport eine Karte mit 10 Geboten der Digitalen Ethik erstellt.
Zielgruppe: ab Jgst. 5
Art des Materials: Text
Link zum Material: https://www.hdm-stuttgart.de/digitale-ethik/lehre/10_gebote
klicksafe liefert auf 84 Seiten eine an Lehrkräfte gerichtete Einführung in KI-Systeme und ihre Auswirkungen sowie Material für sechs ausgearbeitete Unterrichtsprojekte. Die Projekte decken ein weites Spektrum ab: „KI – einfach überall?!” , „Die 10 Gebote der KI-Ethik”, „Virtuelle Stars – Wenn Influencer*innen keine Menschen sind”, „mAlfriend?” „KI als Lernbuddies” und „KI – 'gut' oder 'böse'”.
Zielgruppe: Lehrkräfte, ab Jgst. 7
Art des Materials: Text und Arbeitsblätter
Link zum Material: https://www.klicksafe.de/materialien/ki-and-me-wie-kuenstliche-intelligenz-unser-leben-praegt
Auf #lesen.bayern findet sich eine Besprechung sowie Zusatzmaterial zu einem Buch von Zachary Tallent, der basierend auf Qualityland 2 von Marc-Uwe Kling einen Comic erstellt hat.
Zielgruppe: ab Jahrgangsstufe 7
Art des Materials: Buchbesprechung und Unterrichtsmaterial
Link zum Material: https://www.lesen.bayern.de/9783863913052/
In der Unterrichtseinheit „Replika” stellt education 21 eine Idee vor, wie Schülerinnen und Schüler das Thema Freundschaft und die Chancen und Risiken von KI-Freunden bearbeiten können.
Zielgruppe: ab Jgst. 7
Art des Materials: Unterrichtsskizze
Link zum Material: https://education21.ch/sites/default/files/uploads/themendossier/KI/TD%20KI_UE_Replika.pdf
In der 28minütigen Kurzdoku «Haben Computer Vorurteile?» wird diskutiert, ob es nicht sinnvoller wäre, moralische Entscheidungen KI zu überlassen, da diese rationaler entscheiden als wir Menschen. Im Begleitmaterial sind methodische Hinweise und eine Unterrichtsskizze für Lehrkräfte enthalten sowie Arbeitsblätter.
Zielgruppe: ab Jgst. 7
Art des Materials: Video und Begleitmaterial
Link zum Material: https://www.education21.ch/de/filme/haben-computer-vorurteile
Mit dem 10minütigen Animationsfilm „The Lonely Orbit” von BNE éducation21 werden die Schülerinnen und Schüler für die eigenen sozialen Interaktionen in der realen und digitalen Welt sensibilisiert. Im Anschluss kann das Thema (digitale) Einsamkeit bearbeitet werden.
Zielgruppe: Jgst. 7-9
Art des Materials: Video und Unterrichtskonzept
Link zum Material: https://www.zebis.ch/unterrichtsmaterial/lonely-orbit
Auf der Webseite KI-Konkret der Plattform Lernende Systeme behandelt der Abschnitt „Was darf KI?“ ethische, rechtliche und sicherheitstechnische Herausforderungen in kurzen Texten. Integriert sind Vertiefungsmöglichkeiten durch weitere Texte und passende Links.
Zielgruppe: ab Jgst. 8
Art des Materials: Webseite
Link zum Material: https://www.ki-konkret.de/was-darf-ki.html
Auf #lesen.bayern wird der Roman „Boy in a White Room” von Karl Olsberg vorgestellt, begleitet von didaktischen Hinweisen für den Unterricht.
Zielgruppe: Jahrgangsstufe 8-11
Art des Materials: Buchbesprechung und didaktische Hinweise
Link zum Material: https://www.lesen.bayern.de/9783743203648/
Der teachSHARE-Kurs zum Thema Arbeit und Beruf behandelt u.a. das Thema Digitalisierung und Künstliche Intelligenz sowie die Frage „Automatisierung und Digitalisierung - was kann ich tun?“. Das umfangreiche und vielfältige Material wurde von Christian Pohl erstellt – unter Nutzung von Künstlicher Intelligenz.
Zielgruppe: Ethik und Religionslehre ab Jgst. 9
Art des Materials: Unterrichtsmaterial
Link zum Material: https://lernplattform.mebis.bycs.de/blocks/mbsteachshare/coursedetail.php?courseid=1352764
In einem Fallbeispiel präsentieren Thure Dührsen und Gudrun Schiedermeier eine alltagsnahe Situation und stellen sehr konkrete Fragen, die zur Diskussion auffordern.
Zielgruppe: Ethik und Religionslehre ab Jgst. 9
Art des Materials: Webseite
Link zum Material: https://gewissensbits.gi.de/fallbeispiel-die-rentnerin-und-der-roboter/
Auf #lesen.bayern wird der Roman „Maschinen wie ich” von Ian McEwan vorgestellt, begleitet von didaktischen Hinweisen für den Unterricht.
Zielgruppe: ab Jahrgangsstufe 10
Art des Materials: Buchbesprechung und didaktische Hinweise
Link zum Material: https://www.lesen.bayern.de/9783257070682/
In der Unterrichtseinheit „Moral und KI” stellt education 21 eine Idee vor, mit der die Schülerinnen und Schüler erarbeiten sollen, nach welchen moralischen Regeln eine KI handeln sollte.
Zielgruppe: ab Jgst. 11
Art des Materials: Unterrichtsskizze
Link zum Material: https://education21.ch/sites/default/files/uploads/themendossier/KI/TD%20KI_UE_Moral_V2.pdf
In der Unterrichtseinheit „Selbstwertgefühl” stellt education 21 eine Idee vor, wie Schülerinnen und Schüler sensibilisiert werden können für die Frage, wie KI Einfluss nehmen kann auf das eigene Selbstwertgefühl und wie sie ihr Selbstwertgefühl stärken können.
Zielgruppe: ab Jgst. 11
Art des Materials: Unterrichtsskizze
Link zum Material:
https://www.education21.ch/sites/default/files/uploads/themendossier/KI/TD%20KI_UE_Selbstwertgefühl_V3.pdf
Die Unterrichtseinheit „Humanoide KI-Roboter“ sieht für die Fächer Informatik, Biologie, Geographie, Geschichte, Wirtschaft und Recht, Sport, Pädagogik, Philosophie/Ethik und Psychologie jeweils 2-4 Lektionen vor. Fachliche Grundlagen sollen in den Lektionen in den Fächern Informatik, Biologie und Geschichte erworben werden, um die Schülerinnen und Schüler zu befähigen, in anderen Fächern jeweils eine Vision einer Gesellschaft zu entwerfen, in der humanoide KI-Roboter Teil des menschlichen Alltags sind.
Zielgruppe: ab Jahrgangsstufe 11
Art des Materials: Unterrichtskonzepte
Link zum Material: https://education21.ch/sites/default/files/uploads/themendossier/KI/Fächerübergreifende UE_Humanoide KI-Roboter_abt.pdf
Wie können KI-generierte Medieninhalte die Meinungsfreiheit und Demokratie gefährden? Wie kann man Fake News erkennen? Welche positiven Auswirkungen kann KI auf Demokratie und Meinungsfreiheit aber auch haben? Und was sagt das KI EU-Gesetz dazu? Diese Verfassungsviertelstunde behandelt ausgehend von Art. 5 GG Herausforderungen und Chancen durch KI.
Zielgruppe: ab Jahrgangstufe 9
Art des Materials: Präsentation mit Kommentaren für die Lehrkraft
Material (ISB):
Behandeln Maschinen, die KI-Methoden nutzen, alle Menschen gleich? KI-Systeme treffen täglich Entscheidungen - von der Gesichtserkennung bis zur Kreditvergabe -, doch dabei können Verzerrungen (Bias) und gezielte Manipulationen durch Adversarial Attacks zu unfairen oder sogar diskriminierenden Ergebnissen führen. Handelt das KI-System dabei nach unseren kulturellen Maßstäben? Diese Verfassungsviertelstunde behandelt diese Frage anhand Art. 3 GG.
Zielgruppe: ab Jahrgangstufe 8
Art des Materials: Präsentation mit Kommentaren für die Lehrkraft
Material (ISB):
Es gibt kaum ein Thema, das in den letzten Jahren eine solche Relevanz in allen Lebensbereichen entwickelt hat wie die Künstliche Intelligenz. Erfahren Sie hier, was genau hinter der Künstlichen Intelligenz und hinter schwacher und starker KI steckt.
Lesen Sie hier, welche wichtigen Meilensteine aber auch Rückschläge die KI im Laufe der letzten Jahrzehnte erfahren hat.
Angesichts der Verbreitung von KI stellt sich die kritische Frage nach der Datenzuverlässigkeit und wie Verzerrungen entstehen: Welche Auswirkungen hat dies auf Diskriminierung?
Was kann KI? Exemplarische Anwendungsbereiche von KI-Systemen
Woher haben Chatbots ihr Können und was bedeutet das für uns?
Textbasierte KI-Technologien didaktisch zielführend im Unterricht einsetzen - Ideen und Beispiele