Fake News | Maßnahmen in sozialen Netzwerken

 Verhaltensregeln, Guidelines & Co.

Auch für soziale Netzwerke gelten Verhaltensregeln, die alle Nutzenden mit den Nutzungsvereinbarungen akzeptieren. Dabei wird an die Eigenverantwortung der User appeliert und auf gegenseitigen Respekt und Achtung vor den Mitmenschen gesetzt.

Solche Verhaltensregeln können z.B. sein:

• Personen nur dann über das soziale Netzwerk kontaktieren, wenn diese auch einverstanden sind.

• Nachrichten nicht unreflektiert weiterleiten (z.B. bei Kettennachrichten, Meinungsmache oder Falschmeldungen).

• Keine Massenkommunikation bzw. illegalen Kontaktlisten verwenden.

Die Anbieter sind jedoch aufgrund der Menge der Posts nicht annähernd in der Lage, diese Regeln in ihrer Umsetzung von sich aus vollständig zu kontrollieren. Daher setzen diese verstärkt auf technische Unterstützung beim Aufspüren von Regelverstößen.

 Sicherheitsmechanismen in sozialen Netzwerken

Um Missbrauch und Fake News grundsätzlich von vornherein zu verhindern, nutzen soziale Netzwerke in der Regel verstärkt Sicherheitsmechanismen:

• Optimierung der eigenen Filter- und Suchalgorithmen, so dass Fake News möglichst nicht angezeigt werden

• Zusammenarbeit mit Drittanbietern bzgl. Faktenchecks

• Einbau von Spam-Filtern

• Automatisches Erkennen verdächtiger Benutzeraktivitäten

Das automatische Erkennen von Fake News in sozialen Netzwerken ist sehr schwierig, aber es existieren erste Forschungsansätze, u.a. (Halvani et al., 2020):

• Algorithmen zur Unterstützung von Experten

• Technische Untersuchung verschiedener Medientypen: Bild, Text, Ton, Video – jeder Typ hat eigene Manipulations- und Erkennungsmethoden (Stichwort „Multimedia-Forensik“)

• Analyse der Meldung selbst oder der Metadaten

• Analyse der Bedeutung einer Meldung (Semantik)

• Automatische Überprüfung der Authentizität der Urheberschaft

• Bei Text: Maschinelle Überprüfung des Wahrheitsgehalts oder Prüfung auf Widersprüchlichkeit im Vergleich zu anderen Nachrichten, Erkennen anhand des Schreibstils, …

• Bei Bildern: Erkennen durch maschinelles Lernen oder durch Erkennung definierter Merkmale

• Erkennen von Bot-Aktivitäten in sozialen Netzwerken mittels Strukturerkennung, maschinellem Lernen oder Crowdsourcing

Oft werden dazu Methoden maschinellen Lernens bzw. künstlicher Intelligenz (z.B. neuronale Netze, Deep-Learning-Algorithmen) angewendet.

Literatur

Halvani et al. Automatisierte Erkennung von Desinformationen. In: Martin Steinebach, Katarina Bader, Lars Rinsdorf, Nicole Krämer, Alexander Roßnagel (Hrsg.): Desinformation aufdecken und bekämpfen, 101 - 148.

 Redaktionelle Eingriffe

Weil viele Inhalte automatisch nicht richtig erfasst werden können, gibt es in jedem Netzwerk auch die Möglichkeit, einzelne missbräuchliche Beiträge als kritisch zu melden.

Dies ist über spezielle Meldeseiten, aber in der Regel auch direkt in jeder Meldung möglich (Option „Beitrag melden“ oder ähnlich). Gemeldete Beiträge werden dann von Mitarbeiter des Netzwerks übeprüft. Je nach Ergebnis der Überprüfung werden unterschiedliche Maßnahmen eingeleitet:

Beispiel @realdonaldtrump

Der ehemalige US-Präsident Donald Trump nutzte vor, während und nach seiner Präsidentschaft sehr gerne Twitter als Nachrichtenmedium und verfasste selbst mehrere Tweets pro Tag. Auf diesem Weg erreichte er seine Anhängerschaft direkt. Dabei ging er nachweislich manipulativ mit Informationen um bzw. verbreitete Falschinformationen.

Twitter reagierte zunächst mit der Kennzeichnung einzelner Beiträge. Heise online schildert das am Beispiel Trump folgendermaßen:

„Twitter hat ein Video eines Wahlkampfauftritts von Ex-US-Vizepräsident Joe Biden, das sinnentstellend gekürzt wurde, als „manipuliertes Medium” markiert. Das Video, in dem Biden offenbar zur Wiederwahl von US-Präsident Donald Trump aufruft, war vor allem von Unterstützern Trumps und schließlich auch dem Präsidenten selbst geteilt worden.“

Nach der Erstürmung des Kapitols in Washington durch Trump-Anhänger sperrte Twitter am 6.1.2021 den Account des ehemaligen US-Präsidenten Donald Trump dauerhaft.