Der #Faktenfuchs hat während der Recherche neunzehn Accounts identifiziert, die solche Fake-Nachrichtenvideos in großer Anzahl veröffentlichten. Und er hat mit Experten darüber gesprochen, wer dahinter stecken könnte, warum sich die Videos gerade auf TikTok so gut verbreiten und welchen Regeln und Gesetzen Falschbehauptungen auf TikTok unterliegen.
Das Prinzip „Plattformen mit billigen Inhalten fluten“ ist nicht neu
Die Machart der Videos ähnelt sich: Sie enthalten häufig KI-generierte Bilder oder austauschbares, allgemeines Videomaterial. Insgesamt machen sie den Eindruck, mit wenig Aufwand produziert worden zu sein, sagt Politik- und Kommunikationswissenschaftler Marcus Bösch. Der Autor des Newsletters „Understanding TikTok“ erklärt im #Faktenfuchs-Interview: „Man spricht hier von cheap fakes“. Das sind billige Fakes, die lange Zeit einfacher zu produzieren waren als beispielsweise Deepfakes, die komplett KI-generiert oder manipuliert sind.
Bösch sagt: „Das Fluten von Plattformen mit Inhalt, der sich mit relativ wenig Aufwand erstellen und verbreiten lässt, gibt es, seitdem es Plattformen gibt.“ Sobald es neue technische Möglichkeiten wie KI-Bildgeneratoren gebe, würden diese auch zum Erstellen billiger Fakes eingesetzt.
Boulevard-Prinzip mit Falschbehauptungen
Die erfundenen Behauptungen aller Videos haben gemeinsam, dass „sie den Alltag von möglichst vielen Menschen betreffen“, sagt Julia Smirnova, Senior Researcherin und Desinformationsexpertin beim Center für Monitoring, Analyse und Strategie (CeMAS) im Gespräch mit dem #Faktenfuchs.
Smirnova sagt: „Die Videos lösen – wie Schlagzeilen von Boulevardzeitungen – bei Menschen Überraschung, Schock, Ärger oder Freude aus.“ Das trieben sie mithilfe von Falschbehauptungen auf die Spitze.
Anspielungen auf echte Debatten: „Klassiker der Desinformationsverbreitung“
In den meisten Videos kommt Friedrich Merz prominent vor. „Als Bundeskanzler ist er allen Menschen in Deutschland bekannt. Es geht darum, den Eindruck zu erwecken, dass diese vermeintlichen Regelungen von der Bundesregierung kommen“, erklärt Smirnova.
Durch die Behauptung teilweise absurd erscheinender Verbote oder Regeln würde der Eindruck erweckt, die Bundesregierung würde das Leben in Deutschland schwieriger machen und die Menschen schikanieren. „Diese Videos tragen dazu bei, Vertrauen in die Regierung zu untergraben und sie erzeugen auf Basis falscher Tatsachen das Gefühl, dass die Regierung nicht in ihrem Interesse handelt“, so Smirnova.
Die Inhalte vieler Videos spielen dabei auf tatsächlich stattfindende Debatten an. Die Behauptung, Arbeitnehmer hätten zukünftig nur noch zehn Krankheitstage pro Jahr, erinnert etwa an die Debatte um die Lohnfortzahlung ab dem ersten Krankheitstag.
Marcus Bösch sagt: „Das ist ein Klassiker der Desinformationsverbreitung: Man nimmt etwas, was man irgendwie schon mal gehört hat oder was auch ein Pünktchen Wahrheit beinhaltet. Das triggert dieses: Ja stimmt, das habe ich auch in der Tagesschau gesehen“.
Wer steckt hinter den Videos?
Aber handelt es sich bei den Videos tatsächlich um gezielte Desinformation? Von Desinformation spricht man, wenn ein Akteur wider besseres Wissen falsche Informationen verbreitet, um die Öffentlichkeit bewusst zu täuschen oder zu verunsichern. Marcus Bösch vermutet: „Da wir hier diverse Accounts haben, die auch alle von der Aufmachung ähnlich sind, kann man schon davon ausgehen, dass es sich um einen koordinierten Vorgang handelt.“
Julia Smirnova hält auch ein kommerzielles Interesse der Account-Betreiber für denkbar. TikTok-Accounts mit mindestens 10.000 Followern können am Belohnungsprogramm der Plattform teilnehmen. Das trifft auf viele der vom #Faktenfuchs beobachteten Accounts mit den Fake-Nachrichtenvideos zu. Nur „originale, qualitativ hochwertige Inhalte“ kommen allerdings laut TikTok für das Programm infrage. Smirnova sagt dennoch: „Die Monetarisierungsregeln von TikTok befördern Accounts, die um jeden Preis eine hohe Reichweite erzielen.“ Damit fördere man gleichzeitig auch Akteure mit böswilligen Absichten, die etwa versuchen, mit der Verbreitung solcher Falschinformationen Geld zu verdienen.
Von den neunzehn vom #Faktenfuchs identifizierten Accounts, die solche Fake-Nachrichtenvideos verbreiteten, hatten dreizehn mehr als 10.000 Follower. Ob diese Accounts am Belohnungsprogramm teilnehmen, bleibt unklar. Auf Anfrage äußerte sich TikTok dazu nicht.
„Deckt sich am Ende mit den Interessen russischer Desinformation“
Möglich sei auch eine Mischung von kommerziellen und politischen Interessen, indem sich Account-Betreiber von politischen Akteuren für ihre Reichweite bezahlen lassen, so Marcus Bösch. Auch Smirnova sagt: „Es gibt einen Markt für solche Accounts. Sie sind auch interessant für Desinformationsakteure mit politischem Interesse“. So könne es vorkommen, dass sogenannte „Content Farms“ Accounts mit mehr als 10.000 Followern hochziehen, die dann von politischen Akteuren gekauft werden. Content Farms produzieren Social Media-Inhalte in großen Mengen, um damit Reichweite und Werbeeinnahmen zu generieren.
Tatsächlich weisen die Fake-Nachrichtenvideos typische Merkmale russischer Propaganda auf, so Julia Smirnova: „Ein Ziel russischer Propaganda in Deutschland ist es, das Vertrauen in die Bundesregierung zu untergraben“. Ob die Videos tatsächlich von einem staatlichen russischen Akteur oder von einem privaten Akteur mit kommerziellem Interesse verbreitet werden, ist aus Smirnovas Sicht dabei zweitrangig. Entscheidend sei: „Wenn diese Videos viral gehen und wenn sie eine Reichweite erzielen, deckt sich das am Ende mit den Interessen der russischen Desinformation.“
Warum verbreiten sich solche Videos gerade auf TikTok?
Entscheidend dafür, wie stark sich diese Inhalte verbreiten, sei dabei die Struktur der Plattform, so Bösch: „Auf algorithmisch kuratierten Plattformen wie TikTok hat das Ganze nochmal an Dynamik gewonnen“. Algorithmisch kuratiert heißt: Algorithmen und nicht Menschen entscheiden darüber, was Nutzer sehen. Welchen Accounts man folgt, ist dabei weniger ausschlaggebend als etwa auf Facebook. Wichtiger ist: Welche einzelnen Videos funktionieren gut?
So haben auch neue Accounts oder Nutzer mit wenigen Followern die Chance, mit ihren Inhalten viele andere User zu erreichen. TikTok belohne sogar Videos von neuen Accounts, um die Besitzer dieser Accounts an die Plattform zu binden, so Bösch. „Dementsprechend ist es aus Desinformationsverbreitungssicht gut, einfach 100 Accounts anzulegen und da überall mal ein paar Videos zu posten. Bei irgendeinem dieser 100 Accounts werden schon ein oder zwei Videos die nötige Reichweite machen“, meint Bösch. Dieses Muster sehe man auch bei den Fake-Nachrichtenvideos aus dieser Recherche: „Da sind ein oder zwei Videos dabei, die haben Millionen Views und die anderen haben deutlich weniger. Das ist die algorithmische Logik.“
