Das Problem, schreibt Sardarizadeh weiter: „Grobkörnige Bilder und Videos mit generativer KI zu verbessern, um Schlüsseldetails – wie Gesichter, Schrift, Örtlichkeiten, Logos etc. – zu identifizieren, führt oft zu ungenauen und unzuverlässigen Ergebnissen.“ Das liege daran, dass KI-Modelle nicht wissen, wie die fehlenden Details in einem echten, aber grobkörnigen Bild oder Video aussehen. „Sie generieren diese Details auf Basis von fehlerhaftem Raten, nicht von tatsächlichen Daten.“
Diese Einschätzung teilt Forensiker Martin Steinebach, Leiter der Abteilung Media Security und IT Forensics am Fraunhofer-Institut für Sichere Informationstechnologie SIT: „Diese Enhance-Strategien, um ein Gesicht erkenntlich zu machen: Wenn das mit KI gemacht wird, ist das, glaube ich, ein gefährliches Spiel, weil die halt dann eher so die wahrscheinlichsten Gesichter erzeugen wird, aber nicht die tatsächlichen Gesichter.“
Weitergedacht könne das auch handfeste Folgen haben, meint Maria Pawelec. Sie ist Politikwissenschaftlerin und Deepfake-Forscherin am Internationalen Zentrum für Ethik in den Wissenschaften (IZEW). Es könne etwa dazu führen, dass unschuldige Personen diskreditiert werden, einfach weil sie den KI-generierten Gesichtern ähneln. „Oder – sogar das wäre möglich –, dass man die KI absichtlich mit Gesichtern von bestimmten Personen füttert und sagt, ‚Projiziere mir mal diese Gesichter auf dieses Bild‘, um den Ruf von Menschen zu ruinieren und sie zum Beispiel unrechtmäßig verhaften zu lassen.“
Nicht jede Manipulation hinterlässt ein digitales Wasserzeichen
Auf welche Weise eine Manipulation in ein Bild kommt, ist nicht immer einfach festzustellen, sagt Steinebach. Ein KI-Bildgenerator würde das Bild quasi neu erzeugen, so Steinebach, nicht einfach nur bearbeiten. Ein Wasserzeichen hinterlässt das Programm dabei nicht zwingend.
Denn erstens: „Nicht alles, was generiert ist, wird markiert“, sagt Informatiker Riess. Er hat als Co-Chair den „Code of Practice“ zum Artikel 50 im EU AI Act mitverfasst – darin wird die Markierung von KI-generierten Inhalten für kommerzielle Plattformen wie OpenAI geregelt. „Die Regeln im AI Act der EU nehmen leichte Verbesserungen eines Bildes aus, etwa Kontrastveränderung.“ Eine fixe Definition oder genaue Grenzen dessen, was als solche Standardbearbeitung gilt, stehe nicht im AI Act.
Grundsätzlich müssten die Systeme eine KI-Markierung einführen, sobald eine Veränderung über der Schwelle liegt, sagt Riess. „Wenn aber eine Änderung lediglich kosmetischer Natur ist, würde eine Plattform möglicherweise kein neues Wasserzeichen einfügen.“
Auch digitale Wasserzeichen sind umgehbar
Forensiker Steinebach sagt: Wenn eine minimale Nachbearbeitung, die das Bild nicht verändert, sofort ein Wasserzeichen bekomme, dann ermögliche auch das Täuschung: „Dann kann ich natürlich auch jedes beliebige Bild, das mir nicht gefällt, einmal durch den KI-Generator laufen lassen mit einer Nullrunde, und dann sag ich: ‚Guck mal hier, hier ist das Foto, da ist ganz klar ein KI-Wasserzeichen drin und die ganzen anderen, die haben das Wasserzeichen nur entfernt‘.“ Diese Taktik sei als sogenannte „Inversion Attack“ beim Watermarking berüchtigt.
Der zweite Grund dafür, dass nicht jede Manipulation ein Wasserzeichen hinterlässt: Sie könnte auch durch einen Generator erzeugt worden sein, der nicht unter den EU AI Act fällt. Jakob Tesch von Gretchen AI, einer Firma, die ein Deepfake-Erkennungs-Tool anbietet und eine Ausgründung des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) ist, sagt: „Es werden nicht immer die großen KI-Generatoren benutzt, um Enhancements zu machen.“ Es gebe auch viele Möglichkeiten zur Bildbearbeitung, die nicht generative KI seien – etwa „die Standardtools auf den Mobiltelefonen, um Bilder zu verändern“.
Und es gibt noch einen dritten Grund für ein fehlendes Wasserzeichen: Es kann entfernt worden sein. Ein Wasserzeichen, das für Menschen sichtbar ist, ist ohnehin schnell weggeschnitten. Es ist auch möglich, das Einfügen des Wasserzeichens auszustellen. Aber auch maschinenlesbare Wasserzeichen sind – wenn auch schwieriger – manipulierbar und entfernbar. Zum Beispiel durch Kompression – also indem der Speicherbedarf eines digitalen Bilds reduziert wird. So kann ein KI-generiertes Bild als vermeintlich echtes Bild dargestellt werden. Auf Wasserzeichen könne man sich also nicht ausschließlich verlassen, fasst Pawelec zusammen. „Denn nur weil das nicht anschlägt, heißt es auf keinen Fall, dass es nicht KI-generiert oder -manipuliert ist.“
Spuren jenseits von Wasserzeichen: auch nicht immer zu finden
Es gibt auch KI-basierte Detektoren, die versprechen, KI-generierte Bilder auch ohne Wasserzeichen zu erkennen. So einen baut Gretchen AI. Sie suchen bestimmte forensische Spuren in Bildern. Diese gingen auch über ein Wasserzeichen hinaus, sagt Tesch von Gretchen AI. Die Einschränkung: „Grundsätzlich gilt: Für jede forensische Spur oder Bearbeitung braucht es spezifische Trainingsansätze.“ Da einzelne Detektoren aber nicht für alle erdenklichen Manipulationsfälle trainiert sind, schlagen sie nicht zuverlässig an. Zudem laufe zwischen den Entwicklern von Erkennungsprogrammen und jenen, die sie umgehen wollen, ein Katz-und-Maus-Spiel.
Wie sehr kann man sich künftig auf das Entlarven von KI-Inhalten per Tool verlassen? Forensiker Steinebach sagt: „Eine einfache technische Lösung wird man nicht hinbekommen.“ Auch Pawelec vom IZEW sagt: „Deepfake-Detektoren sind immer fehlerbehaftet, nie perfekt, hinken immer der Deepfake-Entwicklung hinterher, sind immer wahrscheinlichkeitsbasiert.“
Informatiker Reiss schließt daraus: „Die Idee, dass man ohne Gatekeeper Nachrichten konsumieren will, funktioniert vielleicht in kleinen Gesellschaften, in denen jeder jeden kennt, aber das funktioniert nicht unter Fremden. Diesen Prüfschritt, etwa von Journalisten, kann man nicht durch technische Lösungen oder so einfach erschlagen.“
Welche Wirkung können KI-Manipulationen entfalten?
Je nach Art der Manipulation, nach Kontext und je nach Voreinstellungen der Person, der ihr begegnet, kann sie unterschiedlich auf uns wirken. German Neubaum ist Medienpsychologe an der Universität Duisburg-Essen. „Wenn wir etwas sehen, was schärfer und detailreicher ist, glaubt man im nächsten Moment: Ich habe beweisrelevante Informationen. Und damit ist auch die Sicherheit von meinem Urteil höher, dass das Gezeigte und meine Vermutung, dass es zu meinen Hintergrundinformationen passt, richtig sind.“ Das spiele eine Rolle dabei, für wie glaubwürdig wir ein Bild halten – unabhängig davon, ob das Bild tatsächlich echt ist.
Bei Aufnahmen von Augenzeugen, etwa bei Menschenrechtsverletzungen, erwarten wir hingegen eher, dass etwas unscharf und verwackelt und verpixelt ist, wie Pawelec sagt. „Ein ganz großes Problem gibt es etwa bei KI-generierten Missbrauchsdarstellungen von Kindern, weil die tatsächlich bisher häufig eher so sehr ‚perfekt aussehend‘, perfekt ausgeleuchtet, in hoher Auflösung und so weiter waren.“ Das entspreche nicht dem, wie echte Missbrauchsdarstellungen von Kindern häufig aussähen. „Inzwischen ist es so, dass die KI besser wird und dadurch eben sozusagen schlechter ausgeleuchtete, amateurhaft wirkende Missbrauchsdarstellungen von Kindern generiert.“ Diese wirkten durch den Kontext und die Erwartungshaltung zu dieser Art von Aufnahme glaubwürdiger – und seien deswegen auch für Strafverfolgungsbehörden schwerer als KI-generiert einzustufen.
Unschärfe – auch künstlich erstellte – kann in bestimmten Kontexten also andersrum auch ein Hinweis darauf sein, dass etwas wahr sei. „Es wirkt authentisch, es kann aus dem Hintergrund geschossen worden sein, es kann in einer Dynamik aufgenommen worden sein.“ Auch das könne täuschen. „Das Problem ist, dass das eine verzerrte Entscheidungsfindung, eine verzerrte Meinungsbildung hervorrufen kann.“
KI-manipulierte Bilder trügen auch zum generellen Vertrauensverlust in Medien bei, so Pawelec. Dazu, „dass sie immer mehr das Gefühl bekommen, dass sie eigentlich gar nichts mehr glauben können“.
Wie können User auffällige Bilder prüfen?
Die Deepfake-Technologie sei zwar inzwischen so weit, dass KI-generierte Bilder oder Videos nur noch selten wirklich offensichtliche Unstimmigkeiten aufweisen wie die berühmten sechs Finger, sagt Pawelec vom IZEW. „Aber je nach Modell, je nach Inputdaten und auch technischem Know-how der Nutzenden gibt es durchaus noch Unstimmigkeiten, die wir als Menschen erkennen können.“
Aber es gibt eben auch Bilder ohne solche auffälligen optischen Unstimmigkeiten. Da technische Lösungen fehlbar sind: Was hilft bei der Orientierung?
Unverzichtbar sind die Grundtechniken, Medien und Quellen zu überprüfen. Darin sind sich die Experten einig. Also: der Geschichte des Bildes oder auch der Tonspur auf den Grund gehen, zwischen seriösen und unseriösen Quellen unterscheiden können. Und auch zu wissen, dass bisweilen Material als KI-Fake dargestellt werde, obwohl es echt ist – in der Hoffnung, dass die Lüge Vorteile bringt. Informatiker Riess empfiehlt zum Beispiel eine Bilderrückwärtssuche. Die kann helfen, andere oder frühere Versionen von einem Bild zu finden, vielleicht sogar eine, die ein Wasserzeichen enthält.
Auch eine Regulierung der Plattformen allein reiche nicht aus, sagt Kognitions- und Medienforscher Nebaum. Warnungen zu Fakes, so Neubaum, helfen bisweilen nicht, selbst wenn sie gesehen werden. Einen Fake als solchen zu erkennen, reiche außerdem bisweilen nicht aus. Manche nutzten ein gefälschtes oder manipuliertes Bild für ihre Zwecke, obwohl sie es als Fake erkannt hätten – weil sie hoffen, dass es der Verbreitung der eigenen Weltsicht diene.
„Insbesondere dann, wenn diese Falschinformation in mein mentales Modell passt – dann glaube ich sie trotz Warnungen.“ Deshalb brauche es eine grundlegende Reflexionsfähigkeit, so Neubaum. Dabei gehe es nicht um eine allumfassende Skepsis, sondern auch um Offenheit für wahre Informationen. Dafür sei es wichtig, sich mit anderen auszutauschen. Nicht alle Themen sind für jeden gleich wichtig. Aber die Themen, die einem persönlich wichtig sind, solle man mit anderen Menschen besprechen, sagt Neubaum, und sich den ganzen Kontext zu einer Information zu erschließen.
Politikwissenschaftlerin Pawelec geht mit einem Tipp noch darüber hinaus: einen Schritt zurückzutreten und sich selbst zu beobachten. „Was macht das eigentlich mit mir? Werde ich gerade total emotionalisiert? Werde ich wütend, hasserfüllt, ängstlich? Hat jemand vielleicht ein Interesse daran, dass ich diese Botschaft glaube?“ Das erfordere ein hohes Maß an Selbstreflexion. Aber es kann dabei helfen, die Ziele hinter den Bildern zu verstehen.
