KI wird auch für „Enkeltrick 2.0“ missbraucht
Für Pawelec passen die Videos zur Entwicklung, dass es immer mehr betrügerische Deepfakes gibt, die sich teils gezielt an Rentnerinnen und Rentner richten: „Ganz beliebt ist ja der Enkeltrick 2.0, wo mit der KI-generierten Stimme von Enkelinnen, Söhnen oder wem auch immer angerufen und um Geld gebeten wird.“
Die Deutsche Rentenversicherung Bund schreibt auf #Faktenfuchs-Anfrage, dass ihnen die Videos bekannt sind. Die Informationen würden oft verkürzt dargestellt und bewusst falsch aufbereitet, um reißerisch zu wirken und Klicks zu generieren, so die DRV Bund: „Auch werden häufig Auswirkungen in finanzieller Hinsicht in den Vordergrund gestellt, die in der Realität nicht zutreffen.“
Richard Kuchta, Experte für Desinformation und Plattformen am Institute for Strategic Dialogue (ISD) sagt im #Faktenfuchs-Interview: „Man hat keine Daten, die zeigen würden, dass ältere Altersgruppen anfälliger dafür sind, Deepfake-Videos zu glauben.“ Man sehe aber, dass ältere Menschen eher von Online-Betrug betroffen sind als jüngere Menschen.
Stecken monetäre Interessen hinter den Videos?
Auch unter den Videos von einem der YouTube-Kanäle, die der #Faktenfuchs im Rahmen dieser Recherche gefunden hat, fanden sich Links zu einer Seite, auf der auf betrügerische Art und Weise Nahrungsergänzungsmittel und Medizinprodukte mit Deepfakes von Prominenten beworben wurden.
Die restlichen neunzehn Accounts auf TikTok und YouTube, die der #Faktenfuchs in dieser Recherche fand, fügten ihren Videos allerdings keine weiterführenden Links an, die zu mutmaßlichen Betrugsmaschen führten. Maria Pawelec vermutet dennoch finanzielle Motive: „Ich glaube, dass viele dieser Inhalte gepostet werden, damit sie auf den Plattformen viral gehen und man das Ganze monetarisieren kann.“
Viele Videos, die der #Faktenfuchs gefunden hat, erfüllen jedoch Kriterien, die sie laut TikToks eigenen Regeln (externer Link) eigentlich vom Monetarisierungsprogramm der Plattform ausschließen. So war eine ganze Reihe dieser Videos als „Werbeinhalt“ gekennzeichnet, warum, ist unklar. Klar ist aber: Werbung kann auf TikTok laut Plattform-Regeln nicht zusätzlich monetarisiert werden. Auch „falsche oder irreführende Informationen“ sind vom Belohnungsprogramm von TikTok ausgeschlossen.
Auf YouTube wiesen manche der Renten-Deepfake-Videos, die der #Faktenfuchs gefunden hat, Merkmale auf, die auf eine Monetarisierung der Kanäle oder einzelner Videos hindeuten – etwa, weil Werbung angezeigt wurde.
Auch politische Desinformation möglich
Richard Kuchta vom ISD hält es für wahrscheinlicher, dass die Videos politischer Desinformation zuzuordnen sind: „Es sieht eher nach einer Art von Online-Propaganda aus, die sich gegen die Regierung richtet“, so Kuchta. Die Videos seien seinem Eindruck nach darauf ausgelegt, ein Gefühl der Unzufriedenheit aufzugreifen und weiter zu verstärken. „Es handelt sich eindeutig um jemanden, der die Nachrichten in Deutschland beobachtet und der auch versteht, was wichtige Themen in Deutschland sind“.
Dafür, dass mit den Videos eher ein diffuses Gefühl der Unzufriedenheit angesprochen werden soll, könnte sprechen, dass sich insbesondere die TikTok-Nutzung bei über 50-Jährigen in Grenzen hält. Lediglich 2,25 Prozent der über 50-jährigen gaben in der Medienstudie von ARD und ZDF von 2025 an, sie hätten gestern TikTok genutzt. Für YouTube lag dieser Wert höher, bei 11,1 Prozent.
Experten raten: Quelle prüfen, Manipulations-Anfälligkeit reflektieren
In den Kommentaren unter den Videos zeigt sich, dass viele Nutzer Schwierigkeiten damit haben, diese Deepfakes zu erkennen.
Unter dem Video mit den angeblich falsch ausgestellten Rentenbescheiden schreibt ein Nutzer etwa: „Die Rentenkasse war schon immer der Selbstbedienungsladen der Regierung“, der Kommentar hatte etwa drei Wochen nach Veröffentlichung 121 Likes. Ein anderer Nutzer schreibt: „Hoffentlich wird mal eine Kassenprüfung durchgeführt“, hier drückten 254 Nutzer ihre Zustimmung aus.
Und das, obwohl Maria Pawelec über die Renten-Deepfakes sagt: „Es wird gar nicht versucht, besonders überzeugende Videos mit abwechslungsreichen Hintergründen zu generieren.“ Quantität werde über Qualität priorisiert. „Die Stimmen sind nicht unbedingt State of the Art, teilweise sind es immer noch die Art von KI-generierten Stimmen, die wir vielleicht vor ein, zwei Jahren standardmäßig erwartet hätten.“ In den Renten-Deepfakes finden sich etwa häufig unnatürliche Betonungen und Pausen oder seltsame Akzente.
Wie sollen Rentner und andere Nutzer solche KI-Avatare zukünftig noch erkennen, wenn die Qualität dieser Videos noch besser wird? Pawelec sagt: „Durch die rasante technische Entwicklung ist es gar nicht so sinnvoll, zu versuchen, im Medium selbst irgendwas zu erkennen.“ Hilfreich sei es hingegen, sich den größeren Kontext und den Inhalt der Videos anzuschauen.
„Man kann natürlich ganz klassisch die Quelle prüfen: Ist das eine vertrauenswürdige Quelle oder postet diese Quelle jeden Tag 20 Videos, die alle die gleiche Person vor dem gleichen Hintergrund zeigen?“ Ein weiterer Hinweis sei die Profilbeschreibung: Viele der Accounts, die solche Fake-Videos posten, haben keine Profilbeschreibung oder ein Profilbild, das etwas zeigt, was wenig mit dem Inhalt der Posts zu tun hat. Seriöse Nachrichtenkanäle oder Kanäle von Wissens-Influencern würden so nicht vorgehen, sondern hätten zum Beispiel einen Link zu einer Website mit Impressum oder zumindest gewisse Selbstbeschreibungen.
Richard Kuchta vom ISD sagt: „Wir beim ISD haben generell sehr viele Videos, die KI-generiert wurden, auf TikTok gefunden.“ Allerdings zweifelt er daran, dass alle Interaktionen mit diesen Videos echt sind. Darauf deuteten etwa Muster in den Posts hin, zum Beispiel, wenn ein Video verhältnismäßig viele Likes im Vergleich zu den Aufrufen habe. „Es sind sehr oft Kanäle, die nicht so originelle Inhalte produzieren und es gibt dutzende Accounts, die dann genau die gleichen Inhalte teilen.“
Videos nutzen menschliche Schwächen aus
Dass diese Inhalte viel Aufmerksamkeit erzeugen können, liege daran, dass sie sehr reißerisch sind und gezielt menschliche Schwächen ausnutzen, so Pawelec. Insbesondere Inhalte, die negative Emotionen wie Angst, Hass oder Wut hervorrufen, binden unsere Aufmerksamkeit. „Das nennen wir in der Forschung den Negativity Bias (externer Link, möglicherweise Bezahlinhalt), also die Negativitätsverzerrung.“ Bei Rentnerinnen und Rentnern seien diese negativen Emotionen häufig so etwas wie Angst vor Armut, sozialem Abstieg, körperlichen Gebrechen oder Einsamkeit.
Eine zweite Schwäche, die solche Videos ausnutzen, sei der sogenannte Bestätigungsfehler, „also dass Menschen gerne vor allem das glauben oder als wahr akzeptieren, was ihrem eigenen Weltbild und den bestehenden Überzeugungen entspricht“.
Dass man dazu neigt, bei solchen Videos nicht sofort weiterzuwischen, sei nicht nur im Interesse der Verbreiter, sondern auch im Interesse der Plattformen, so Pawelec: „Tatsächlich ist es ja so, dass die Plattformen finanziell profitieren, wenn wir besonders lange auf ihnen verharren, wenn wir viel interagieren, wenn wir viele Daten preisgeben.“
Was tun die Plattformen?
TikTok kündigte bereits am 10. Juli 2026 (externer Link) an, dass die Plattform verbesserte Erkennungssysteme für KI-generierten Spam teste.
Die Plattform schreibt dem #Faktenfuchs auf Anfrage, man habe auch die Renten-Deepfakes, die der #Faktenfuchs in der Anfrage mitgeschickt hat, wegen Verstößen gegen die Community-Richtlinien entfernt und werde dies auch weiterhin tun. Warum die laut TikTok-Angaben verbesserten Erkennungssysteme für KI-generierten Spam die Videos nicht schon vorher erkannten, beantwortete TikTok nicht. Auch nach der Antwort von TikTok auf die Anfrage waren noch Accounts online, die solche Renten-Deepfakes posteten.
Auch die YouTube-Richtlinie zu Spam (externer Link) verbietet „fließbandartiges Erstellen großer Mengen ähnlicher Inhalte mit nur minimalen Änderungen mithilfe von automatisierten Tools oder KI.“ Pawelec sagt: „Das würde ich zum Beispiel genau bei diesen Kanälen sehen. Da ist immer die gleiche KI-generierte Person mit den gleichen Klamotten, der gleichen KI-generierten Stimme, vor dem gleichen Hintergrund. Und dann werden sehr viele ähnliche Inhalte da gepostet.“
Ein YouTube-Sprecher schreibt dem #Faktenfuchs auf Anfrage allgemein gehalten: „YouTube hat klare, etablierte Richtlinien gegen irreführende Praktiken. Diese Richtlinien verbieten Spam, Betrug und andere Praktiken, durch die die YouTube-Community getäuscht oder ausgenutzt wird.“ Die gemeldeten Kanäle habe man wegen Verstößen gegen diese Richtlinien entfernt. Auf konkrete Fragen, zum Beispiel wie weit verbreitet solche KI-Avatare auf der Plattform sind, ging YouTube in der Antwort nicht ein.
Die meisten Renten-Deepfakes, die der #Faktenfuchs auf YouTube gefunden hat, waren als KI-generiert gekennzeichnet. Das KI-Kennzeichen von YouTube-Videos ist ein eingekreistes, graues i, neben dem „KI“ steht. Die Kennzeichnung ist deutlich kleiner als der Titel selbst. Eine solche Kennzeichnung fehlte hingegen bei den meisten dieser Videos auf TikTok – und das, obwohl wie Youtube auch TikTok (externer Link) seine Nutzer dazu verpflichtet, KI-generierte Videos als solche zu kennzeichnen. Seit dem 2. August 2026 müssen Deepfakes in der Europäischen Union auch von Gesetz wegen gekennzeichnet werden.
Fazit
Der #Faktenfuchs hat hunderte Deepfakes auf YouTube und TikTok gefunden, die vermeintliche Renteninformationen verbreiteten, darunter Falschinformationen. Auf TikTok hatten einige der Videos mehrere hunderttausend Aufrufe. In den Videos einzelner Kanäle taucht häufig jeweils immer wieder derselbe Deepfake-Avatar auf. Die Videos nutzen zwei menschliche Schwächen aus: Negativen Inhalten Aufmerksamkeit zu schenken und Inhalte eher zu glauben, wenn sie dem eigenen Weltbild entsprechen. Da die Qualität solcher Deepfake-Avatare stetig besser wird, raten Experten dazu, nicht nur auf Fehler im Videos zu achten. Zusätzlich solle man stets die Quellen prüfen.
TikTok und YouTube haben einen Teil der Renten-Deepfakes inzwischen von den Plattformen gelöscht.
