Zu Inhalt springen Zu Fußbereich springen

Themen im Fokus

Themen im Fokus

Themen im Fokus

KI | Wie künstliche Intelligenz unser Zusammenleben und unsere Kultur verändert

KI-Assistenten unterstützen uns im beruflichen Alltag, können beim Lernen helfen, uns unterhalten, aber auch öffentliche Räume durch Bilderkennung überwachen - die Bandbreite der Anwendungen von Künstlicher Intelligenz ist groß. Doch was bedeutet KI für unser Zusammenleben als Gesellschaft? Wo sollten KI-Systemen Grenzen gesetzt werden und wie kann das gelingen? Wie kann ich mit Schülerinnen und Schülern an diesen Fragen arbeiten?

Beispiele für den Einsatz von KI-Systemen

„KI ist wahrscheinlich das Beste oder das Schlimmste, was der Menschheit passieren kann.” – Stephen Hawking, Physiker

KI-Systeme bieten viele Möglichkeiten: Bilder erkennen, Vorhersagen treffen, Texte und Bilder erzeugen, Dialoge führen sowie Maschinen selbständig lernen lassen. Diese Möglichkeiten lassen sich in verschiedensten Bereichen anwenden: in der Medizin, in der Industrie, bei der Überwachung von öffentlichen Plätzen, im Verkehr, in der Schule, zur Unterhaltung und vielen mehr.

Konkrete Beispiele für Systeme, die künstliche Intelligenz nutzen, sind Chatbots für verschiedenste Einsatzzwecke oder Autos, die autonom fahren. Weitere Beispiele sind verschiedenste KI-Systeme, die Polizeiarbeit unterstützen sollen, Deepfakes erzeugen oder in der medizinischen Diagnostik helfen.

Warum KI-Systeme voreingenommen sein können und wie man mit dieser Tatsache umgehen kann, erfahren Sie hier.

Der Einsatz von KI in der Schule bietet Chancen, birgt aber auch Risiken. Mehr über das Thema KI und Schule lesen Sie hier.

KI und ethische Aspekte

Da der Einsatz von künstlicher Intelligenz weitreichende Folgen für Individuen und die Gesellschaft hat, ergeben sich zahlreiche ethische Fragen wie die folgenden:

Nach Zweig sollte man KI-Systeme dort nicht einsetzen, „wo man die Qualität von Entscheidungen nicht bewerten kann“ (Zweig, APuZ, S. 7). Das heißt insbesondere, dass Maschinen keine Urteile treffen sollten, wo Werturteile erwartet werden. Demnach wäre es zwar erlaubt, eine Schülerarbeit durch eine Maschine korrigieren zu lassen, jedoch nicht sie zu bewerten, z.B. durch die Vergabe einer Schulnote. Ebenso sollten Maschinen keine singulären Entscheidungen treffen, da ihnen die entsprechenden „Erfahrungen“ in Form von Daten fehlen – wie etwa bei Entscheidungen über Lockdowns zur Eindämmung des Corona-Virus (Zweig, APuZ, S. 7ff).

Organisationen, die Zugang zu großen Datenmengen und Rechenkapazitäten haben, sind besonders gut darauf vorbereitet, von KI-Technologien zu profitieren. Dies kann dazu führen, dass nur einige wenige global agierende Unternehmen den Markt dominieren und Abhängigkeiten schaffen (Stahl, APuZ, S. 20). Ob diese Abhängigkeiten akzeptabel sind, ist eine ethische Frage, da sie die Selbstbestimmtheit des Menschen betrifft.

Die vermeintlich objektive Technologie kann Fehler machen. So werden z.B. bei der automatisierten Gesichtserkennung fast immer auch Menschen fälschlicherweise als gesucht („falsch-positiv”) markiert (Kayser-Bril, 2019).

Je nach Datengrundlage, mit der die KI trainiert wurde, kann die KI auch zu verzerrenden Ergebnissen in ihren Entscheidungen kommen.

Mehr über Verzerrungen durch KI lesen Sie hier.

Dies sind nur einige Beispiele für Fragen, die sich aus ethischer Sicht ergeben. Einen Überblick über das weite Feld Digitale Ethik finden Sie hier.

Zum Weiterlesen und zum Diskutieren: unter dem Titel „Gewissensbits“ bietet die Gesellschaft für Informatik e. V. (GI) praxisnahe Szenarien zu KI und autonomen Systemen an, die zur ethischen Reflexion und Diskussion anregen.

Ganz speziell für den Einsatz von KI in der Schule hat die EU-Kommission ethische Aspekte formuliert, an denen sich der Einsatz von KI-Systemen orientieren sollte (EU-Kommission Generaldirektion Bildung, Jugend, Sport und Kultur, 2022, S. 18):

Schule soll die Schülerinnen und Schüler zu mündigen Mitgliedern der Gesellschaft erziehen, d.h. sie sollen selbstbestimmt handeln und Verantwortung für ihr Handeln übernehmen können.

Schule soll garantieren, dass alle Schülerinnen und Schülern einen gleichberechtigten Zugang zu Technologien besitzen, keiner diskriminiert wird und Rechte und Pflichten gleich verteilt sind.

KI soll menschenzentriert sein, also die Menschen in ihrer Identität, Integrität und Würde achten und sie nicht als Datenobjekt oder Mittel zum Zweck sehen.

Entscheidungen müssen auf partizipativen Modellen zur Entscheidungsfindung beruhen, erklärbar und transparent sein.

Nachhaltigkeit und KI

Aktuell ist besonders die ökologische Nachhaltigkeit im Fokus. Doch was bedeutet Nachhaltigkeit eigentlich?

Der Begriff der Nachhaltigkeit wurde 1987 von einer Kommission der Vereinten Nationen geprägt: nachhaltige Entwicklung ist eine Entwicklung, die die Bedürfnisse der Gegenwart befriedigt, ohne zukünftige Generationen in ihren Bedürfnissen einzuschränken („Sustainable development is development that meets the needs of the present without compromising the ability of future generations to meet their own needs.”) (World Commission on Environment and Development, 1987, S. 54).

In der weiteren Entwicklung dieser Idee legten 2015 die Vereinten Nationen 17 Ziele von nachhaltiger Entwicklung (sustainable development goals, kurz: SDGs) fest (United Nations, 2015):

The content of this publication has not been approved by the United Nations and does not reflect the views of the United Nations or its officials or Member States. Die Veröffentlichung erfolgt gemäß den diesbezüglichen Richtlinien der UN unter https://www.un.org/sustainabledevelopment/wp-content/uploads/2019/01/SDG_Guidelines_AUG_2019_Final.pdf. © UN

Damit wurde Nachhaltigkeit zu einem Konzept, das die Bereiche Ökologie, Zusammenleben in einer Gesellschaft und Ökonomie und ihre Wechselwirkungen gemeinsam betrachtet. Dieses Konzept kann auch auf die Entwicklung von KI-Systemen angewendet werden. Eine nachhaltige KI ist demnach gegeben, „wenn Entwicklung und Einsatz dieser Systeme die planetaren Grenzen respektiert, keine problematischen ökonomischen Dynamiken verstärkt und den gesellschaftlichen Zusammenhalt nicht gefährdet” (Rohde et al., 2021, S. 30).

(Abbildung nach Rohde et al., 2021, S. 28. Bei der Herstellung der Icons wurde Dall.E eingesetzt. @ISB)

Mehr über KI im Spannungsfeld ökologischer Nachhaltigkeit finden Sie hier.

Den Zusammenhang KI und Nachhaltigkeit untersuchen auch die Forschenden der gemeinnützigen GmbH AlgorithmWatch. Sie haben im Rahmen des Projekts SustAIn Kriterien und konkrete Indikatoren für eine nachhaltige KI entwickelt, die sich an den Zielen für nachhaltige Entwicklung, also den SDGs, orientieren. Auf der Webseite sustain.algorithmwatch.org stehen unter anderem Richtlinien und ein Bewertungstool für Organisationen zur Verfügung, die KI einsetzen möchten.

Regulierung von KI

Die EU-Kommission hatte 2019 bereits „Leitlinien für eine vertrauenswürdige KI“ als Ausgangspunkt für die Diskussion über vertrauenswürdige KI für Europa veröffentlicht und darin z. B. gefordert: „Die Entwicklung, Einführung und Nutzung von KI-Systemen muss so erfolgen, dass die folgenden ethischen Grundsätze eingehalten werden: Achtung der menschlichen Autonomie, Schadensverhütung, Fairness und Erklärbarkeit“ (EU-Kommission Generaldirektion Kommunikationsnetze, Inhalte und Technologien, 2019, S. 16).

Das Regelwerk hat eine umfassende Regulierung aller KI-Systeme zum Ziel, steht jedoch vor der Herausforderung, dass es keine einheitliche Definition von KI gibt. Daher basiert der AI Act auf einer breiten Definition von KI, die auch zukünftige Entwicklungen im KI-Bereich im Blick hat, und verfolgt einen risikobasierten Ansatz, bei dem das rechtliche Eingreifen auf das Risiko-Niveau des jeweiligen KI-Systems zugeschnitten ist. Dazu unterscheidet das Werk zwischen den in der folgenden Grafik dargestellten vier Risiko-Stufen.

CC BY 4.0 ISB

Mit der Verabschiedung des AI Act durch die Mitgliedsstaaten im Mai 2024 ist das weltweit erste Regelwerk für KI in Kraft getreten und muss nun durch Gesetze als nationales Recht umgesetzt werden (Presse- und Informationsamt der Bundesregierung, 2024).

KI-Regulierungen und Regulierungsformen bleiben dennoch eine globale Herausforderung, denn "Rein technikbezogene schematische Lösungen werden der Komplexität von KI, Menschen, Gesellschaften und normativen Systemen nicht gerecht. Mehr Bildung, Digitalkompetenz und eine lebhafte öffentliche Debatte sind gefordert.“ (Ruschemeier, 2023).

Noch zu klären sind z.B. rechtliche Fragen zu Urheberrecht und Datenschutz: dürfen zum Trainieren generativer KI urheberrechtlich geschützte Werke und personenbezogene Daten genutzt werden? Hier stehen konkrete Regelungen zum Schutz der Urheber und zum Datenschutz noch aus (Initiative Urheberrecht, 2023).

Lernen über KI

So breit gefächert wie das Thema sind auch die verfügbaren Unterrichtsmaterialien.

Mein Lehrer, ein Roboter?

  • Die Unterrichtseinheit wurde vom Zentrum für Lehrerbildung der TU Chemnitz eine Unterrichtseinheit erstellt und umfasst Material und Umsetzungshinweise für 90-135 min.

    Zielgruppe: Jgst. 3/4

    Art des Materials: Video und Text

    Link zum Material: https://mundo.schule/details/SODIX-0001089183

10 Gebote der digitalen Ethik: Wie können wir im Web gut miteinander leben?

Tallent, Marc-Uwe Kling: „Qualityland 1.2”

  • Auf #lesen.bayern findet sich eine Besprechung sowie Zusatzmaterial zu einem Buch von Zachary Tallent, der basierend auf Qualityland 2 von Marc-Uwe Kling einen Comic erstellt hat.

    Zielgruppe: ab Jahrgangsstufe 7

    Art des Materials: Buchbesprechung und Unterrichtsmaterial

    Link zum Material: https://www.lesen.bayern.de/9783863913052/

Replika

Haben Computer Vorurteile?

  • In der 28minütigen Kurzdoku «Haben Computer Vorurteile?» wird diskutiert, ob es nicht sinnvoller wäre, moralische Entscheidungen KI zu überlassen, da diese rationaler entscheiden als wir Menschen. Im Begleitmaterial sind methodische Hinweise und eine Unterrichtsskizze für Lehrkräfte enthalten sowie Arbeitsblätter.

    Zielgruppe: ab Jgst. 7

    Art des Materials: Video und Begleitmaterial

    Link zum Material: https://www.education21.ch/de/filme/haben-computer-vorurteile

The Lonely Orbit

  • Mit dem 10minütigen Animationsfilm „The Lonely Orbit” von BNE éducation21 werden die Schülerinnen und Schüler für die eigenen sozialen Interaktionen in der realen und digitalen Welt sensibilisiert. Im Anschluss kann das Thema (digitale) Einsamkeit bearbeitet werden.

    Zielgruppe: Jgst. 7-9

    Art des Materials: Video und Unterrichtskonzept

    Link zum Material: https://www.zebis.ch/unterrichtsmaterial/lonely-orbit

Was darf KI?

  • Auf der Webseite KI-Konkret der Plattform Lernende Systeme behandelt der Abschnitt „Was darf KI?“ ethische, rechtliche und sicherheitstechnische Herausforderungen in kurzen Texten. Integriert sind Vertiefungsmöglichkeiten durch weitere Texte und passende Links.

    Zielgruppe: ab Jgst. 8

    Art des Materials: Webseite

    Link zum Material: https://www.ki-konkret.de/was-darf-ki.html

Ethik & Künstliche Intelligenz

Karl Olsberg: „Boy in a White Room”

  • Auf #lesen.bayern wird der Roman „Boy in a White Room” von Karl Olsberg vorgestellt, begleitet von didaktischen Hinweisen für den Unterricht.

    Zielgruppe: Jahrgangsstufe 8-11

    Art des Materials: Buchbesprechung und didaktische Hinweise

    Link zum Material: https://www.lesen.bayern.de/9783743203648/

Arbeit und Beruf: Eine ethische Perspektive

  • Der teachSHARE-Kurs zum Thema Arbeit und Beruf behandelt u.a. das Thema Digitalisierung und Künstliche Intelligenz sowie die Frage „Automatisierung und Digitalisierung - was kann ich tun?“. Das umfangreiche und vielfältige Material wurde von Christian Pohl erstellt – unter Nutzung von Künstlicher Intelligenz.

    Zielgruppe: Ethik und Religionslehre ab Jgst. 9

    Art des Materials: Unterrichtsmaterial

    Link zum Material: https://lernplattform.mebis.bycs.de/blocks/mbsteachshare/coursedetail.php?courseid=1352764

Fallbeispiel: Die Rentnerin und der Roboter

Ian McEwan: „Maschinen wie ich”

  • Auf #lesen.bayern wird der Roman „Maschinen wie ich” von Ian McEwan vorgestellt, begleitet von didaktischen Hinweisen für den Unterricht.

    Zielgruppe: ab Jahrgangsstufe 10

    Art des Materials: Buchbesprechung und didaktische Hinweise

    Link zum Material: https://www.lesen.bayern.de/9783257070682/

Moral und KI

Selbstwertgefühl

Fächerübergreifende Unterrichtseinheit „humanoide KI-Roboter“

  • Die Unterrichtseinheit „Humanoide KI-Roboter“ sieht für die Fächer Informatik, Biologie, Geographie, Geschichte, Wirtschaft und Recht, Sport, Pädagogik, Philosophie/Ethik und Psychologie jeweils 2-4 Lektionen vor. Fachliche Grundlagen sollen in den Lektionen in den Fächern Informatik, Biologie und Geschichte erworben werden, um die Schülerinnen und Schüler zu befähigen, in anderen Fächern jeweils eine Vision einer Gesellschaft zu entwerfen, in der humanoide KI-Roboter Teil des menschlichen Alltags sind.

    Zielgruppe: ab Jahrgangsstufe 11

    Art des Materials: Unterrichtskonzepte

    Link zum Material: https://education21.ch/sites/default/files/uploads/themendossier/KI/Fächerübergreifende UE_Humanoide KI-Roboter_abt.pdf

Weitere Beiträge

Alle ansehen (12)

KI | Verzerrungen

Angesichts der Verbreitung von KI stellt sich die kritische Frage nach der Datenzuverlässigkeit und wie Verzerrungen entstehen: Welche Auswirkungen hat dies auf Diskriminierung?

Futuristisches Armaturenbrett eines autonomen Fahrzeugs

KI | Autonomes Fahren

Der Verkehr wird in Zukunft zunehmen. Im Unterricht sollte diskutiert werden, ob autonome Fahrzeuge eine mögliche Lösung darstellen.

Zu Seitenstart springen Über mebis