2.1 Chancen und Herausforderungen

1 Einführung

Zoe und Noah sitzen im Pausenhof. Sie tauschen sich über ihre Pläne für das Wochenende aus.
„Was machst du denn am Wochenende?“, fragt Noah.
„Ich werde mit meinen Eltern an unseren Lieblingssee fahren und angeln“, antwortet Zoe.
„Da willst du wirklich hin?“, fragt Noah. Er fährt fort: „Ich habe erst gestern ein Video vom See gesehen - ein Influencer hatte es aufgenommen. Dort war es noch einmal richtig kalt und der See war letzte Woche im Frühling plötzlich wieder komplett zugefroren. Das war eine Katastrophe für die Fische dort.“
„Oh, das muss ich mir wohl auch einmal ansehen!“, meint Zoe.
Noah erwidert: „Warte, ich zeige dir gleich das Video. Die Fische waren im Eis sogar festgefroren, so kalt war es da.“
Zoe betrachtet das Standbild des Videos etwas genauer. Sie lacht: „Das hast du wirklich geglaubt?“
2 Chancen und Herausforderungen im Umgang mit KI-Systemen
Woran hat Zoe sofort gemerkt, dass das Bild, und damit das Video, nicht echt sein kann?
Betrachte das Standbild sorgfältig und bewege danach den Balken von rechts nach links, um die Lösung zu sehen!
Das Eis in der Abbildung hat keine glatte Oberseite.
Eiszapfen ragen in Wirklichkeit nicht in das Wasser hinein.
Eis kann nicht tief unter der Wasseroberfläche frei herumschwimmen.
Tatsächlich sind in KI-generierten Bildern oft Fehler zu sehen. Einige dieser Fehler wurden absichtlich eingebaut, andere entstehen durch die zugrundeliegenden Trainingsdaten. Wieder andere entstehen dadurch, dass ein KI-System nicht überprüfen kann, ob ein Ergebnis Sinn ergibt. Deshalb gibt es manchmal Fantasiewörter oder unlogische Beschriftungen.
Doch woran erkennt man KI-generierte Bilder?
Sieh dir die nächsten Bilder genau an – dort findest du typische Fehler.
Hinweis: Nicht alles ist auf den ersten Blick erkennbar. Manchmal lohnt sich ein Blick auf den Bildhintergrund - oder auch auf kleinere Details.
Die Abbildungen oben enthalten unbeabsichtigte Fehler. Mithilfe von KI-Systemen können jedoch auch Bilder erzeugt werden, die gezielt täuschen sollen. Solche Bilder werden als Deepfakes bezeichnet.

Als Deepfakes werden gefälschte Videos oder Bilder bezeichnet. Sie werden mithilfe von KI-Systemen am Computer neu erstellt oder so verändert, dass sie echt aussehen, es aber nicht sind.
Oft wird dabei der Körper, das Gesicht oder die Stimme einer Person ausgetauscht. Dadurch wirkt es, als hätte eine Person etwas gesagt oder getan, was gar nicht passiert ist.
Das kann manchmal witzig sein, zum Beispiel bei lustigen Bildern oder Videos im Netz, wie bei Memes oder ähnlichen Formaten. Aber es kann auch gefährlich sein. Man kann Menschen damit täuschen, Gerüchte verbreiten oder jemandem schaden.
Tipp: Schaue genau hin, woher ein Bild oder ein Video kommt und glaube oder teile es nicht sofort!
3 So kannst du Realität und Fake unterscheiden
Im Internet siehst du täglich unzählige Bilder – aber welche sind echt und welche von KI-Anwendungen erstellt? Was früher nur Profis konnten, schaffen heute KI-Programme in Sekunden – täuschend echte Bilder generieren.
Von Februar 2022 bis Dezember 2023: In weniger als zwei Jahren durchliefen KI-Bildgeneratoren große Entwicklungsschritte. Trotz gleicher Eingabe im selben System fallen die Bilder sehr unterschiedlich aus.
Bedenke: Seit Ende 2023 wurde die Technik noch weiter vorangetrieben.
-
An attractive woman with red lips and long wavy blonde hair, dressing up in space suit, holding an ice-cream cone
-
Isometric Illustration of a home office with plants and books
-
Flat vector illustration of a woman sitting at the desk working with her laptop, isolated white background
-
Simple round logo design of a plant shop „Ali's Plants”, pastel color palette
-
Cartoon drawing of a family with their dog at picnic
-
Food magazine photo of a pizza with melted cheese, tomato and rosemary
-
Photo of a ginger and white cat in the garden
-
Photo of a 6 years old girl smelling a rose in a rose garden
-
Photo of a middle aged male Tuk Tuk driver in Thailand, weathered skin
-
Close-up portrait of a young woman with her face partially hidden by a beige sheer fabric, mixture of highlights and shadows, shot on Ektrachrome film
Die Entwicklung ist rasant – kannst du trotzdem noch erkennen, was echt ist und was nicht? Teste dich selbst und verschiebe das gezeigte Bild jeweils in den passenden Ablagebereich!
Tipp: Bearbeite die Übung in Vollbild! 👇
Das war manchmal nicht so einfach, oder? Hier sind die wichtigsten Merkmale, auf die du achten solltest:
KI-generierte Bilder zeigen Gesichter oft zu perfekt. Echte Haut hat kleine Poren, Unreinheiten oder feine Linien, während die Oberfläche bei erstellten Bildern oft wie Plastik wirkt.
Achte auf die Finger: KI-generierte Bilder zeigen häufig sechs Finger an einer Hand oder vergessen den Daumen. Auch verdrehte Arme oder falsch ausgerichtete Körperteile sind typische Fehler.
Wenn dir auf den ersten Blick etwas merkwürdig vorkommt, dann gibt es dafür meistens einen Grund. Wirkt das Bild vielleicht zu perfekt oder irgendwie falsch? Dieser erste Eindruck ist oft richtig.
Löst das Bild sehr starke Gefühle wie Wut, Entsetzen oder Trauer bei dir aus? Vorsicht: Fake-Bilder sind oft bewusst übertrieben gestaltet, damit sie sich schnell verbreiten.
Grundsatz: Je heftiger deine Reaktion ausfällt, desto genauer solltest du hinsehen.
Stelle dir immer folgende Fragen: Woher stammt das Bild? Wer hat es veröffentlicht? Gibt es Beweise für die Echtheit oder andere Bilder vom selben Ereignis?
Du solltest lieber einmal mehr prüfen, bevor du etwas teilst, da du sonst vielleicht ungewollt Falschinformationen verbreitest.
4 Irreführende Verwendung von KI-Anwendungen
Videos ohne Kamera, Stimmen ohne Sprecher, Bilder ohne Fotografen: KI-Systeme machen es möglich. Was früher nur Hollywood konnte, schafft heute oft eine App auf dem Smartphone.
Das Problem: Diese Technologien kann jeder nutzen. Für lustige Memes, aber auch für gezielte Täuschung. Besonders gerne werden Katastrophen, Skandale und schockierende Ereignisse gefälscht, da sie sich am schnellsten verbreiten.
Es ist Zeit, sich zu wappnen. Sechs Checks helfen dir, Beiträge kritisch zu hinterfragen und mögliche Fakes aufzuspüren.
Du weißt bereits, was Faktenchecker tun – hier findest du wichtige Teams und Plattformen, bei denen du geprüfte Informationen nachschauen kannst.
Hier finden du eine Übersicht fremdsprachiger Faktenchecker. Alle hier gelisteten Faktenchecker wurden vom International Fact-Checking Network (IFCN) zertifiziert, einem weltweiten Netzwerk zur Förderung der unabhängigen Faktenüberprüfung, das bestimmte Transparenz- und Qualitätskriterien vorschreibt.
Quelle: saferinternet.at
5 Reflexion
„Wird das Internet durch KI-Systeme nicht erst richtig gefährlich?“, fragt Zoe.
Noah erwidert: „KI-Funktionen sind nicht von sich aus ein Problem. Es hängt davon ab, wie man sie einsetzt – für Falschinformationen oder für nützliche Dinge. Ich habe sie heute schon mehrmals genutzt: Auf dem Schulweg bekam ich Musik einer neuen Band vorgeschlagen, und einem Touristen konnte ich mit einer Sofortübersetzung den Weg zur Bushaltestelle erklären.“
„Stimmt!“, antwortet Zoe. „Dafür ist es schon ganz praktisch. Außerdem haben wir gerade die Wettervorhersage genutzt und wissen jetzt, dass es am Wochenende sonnig und ungewöhnlich warm wird. Meinem Wochenende am See steht also nichts mehr im Weg!“

✅ Mission erfüllt!
Super, du hast alle Online-Inhalte erfolgreich bearbeitet! Im Anschluss tauschst du dich mit deiner Klasse und deiner Lehrkraft aus. Aber vorher fehlt noch etwas!
📋 Kurzer Selbstcheck
Hast du alle vier Kompetenzen erreicht und auf dem Arbeitsblatt abgehakt?
Hast du zwei überraschende Erkenntnisse aufgeschrieben?
Falls nein: Schau nochmal in der Lektion nach!
💨 Für Schnelle und Neugierige
Noch Zeit und Lust auf mehr? Entdecke weitere Videos, Artikel und spannende Spiele zu diesem Thema!