Die Schauspielerin und Moderatorin Collien Fernandes hat in Spanien Strafanzeige wegen mutmaßlichen Online-Missbrauchs erstattet – gegen ihren Ex-Ehemann Christian Ulmen. Über Jahre hinweg seien Fake-Profile von ihr im Internet erstellt worden. In ihrem Namen seien Männer kontaktiert worden, mit denen gefälschte Stimmen auch Telefonsex hatten. Das berichten der Spiegel [externer Link, möglicherweise Bezahlinhalt] und Collien Fernandes selbst auf ihrem Instagram-Account.
Dabei geht es mutmaßlich um Fälle von Deepfake-Pornos und falschen Identitäten. Deutsche Behörden sind auf solche Fälle kaum vorbereitet. Wie groß ist das Problem und was können Betroffene in Deutschland tun?
Was ist digitale sexualisierte Gewalt?
Digitale sexualisierte Gewalt meint unerwünschte oder schädliche sexuelle Handlungen, die über digitale Technologien ermöglicht oder ausgeführt werden. Dabei werden häufig Identitäten missbraucht, Bilder manipuliert oder intime Inhalte ohne Einwilligung verbreitet.
Im Fall Collien Fernandes sollen jahrelang Social-Media-Profile erstellt worden sein, die ihren Namen trugen und ihr Gesicht zeigten. In Chats sollen pornografische Bilder und Videos von Frauen verschickt worden sein, die Fernandes täuschend ähnlich sehen. Sogar auf Pornoseiten gibt es zahlreiche Treffer, wenn Nutzer nach ihrem Namen suchen. Doch sie sind nicht echt, sondern KI-generiert.
Sexuelle Gewalt nimmt durch KI zu
Dass sich Menschen als jemand anderes im Netz ausgeben, ist kein neues Phänomen. Von Online-Marktplätzen bis Dating-Plattformen: Falsche Identitäten sind zu einer gängigen Betrugsmasche geworden.
Doch die KI-Revolution zieht diesem Delikt eine neue Ebene ein: Jeder kann im Handumdrehen Bilder, Videos und Stimmen erzeugen, die auf den ersten Blick nicht von dem realen Vorbild zu unterscheiden sind. Dabei werden entweder Gesichter auf andere Körper von bestehenden pornografischen Material montiert oder die Inhalte werden völlig mit KI hergestellt.
Wie groß das Problem ist, ist kaum zu beziffern. Laut Schätzungen gab es im Jahr 2023 rund 100.000 KI-generierte Videos im Netz, von denen 96 Prozent pornografisch und überwiegend gegen Frauen gerichtet sind. Doch mit dem Aufkommen neuer Tools, die auch zunehmend einfacher zu bedienen und leichter zugänglich werden, könnte die Zahl mittlerweile höher liegen.
