Papst Franziskus in einem weißen Daunenmantel. Das Motiv ist wohl eines der ersten Bilder, bei dem viele 2023 zweimal oder noch öfter hinschauen mussten, bis ihnen klar wurde, ob es echt ist oder nicht. Es ist wohl eines der ersten KI-Deepfake-Bilder, an das sich viele erinnern können.
Seitdem wurde nicht nur ein neuer Papst gewählt: Die Papst-Bild-Bearbeitung, die 2023 noch für Aufsehen sorgte, ist heute für Milliarden User nur ein paar Klicks und Sekunden entfernt. Und das schafft Probleme: Täuschend echte Videos oder Bilder von Dingen, die nie passiert sind, können Gerüchte und Unsicherheit verbreiten, Meinungen und Entscheidungen beeinflussen.
EU macht Symbol-Vorschläge
Einen Schritt hin zu mehr Sicherheit im Umgang mit KI-Inhalten will nun die EU schaffen. Seit 2. August gelten neue Regeln, die besagen: Mit KI veränderte oder ganz erstellte Bilder, Videos, Texte, Audiodateien oder auch Songs müssen als solche markiert werden. Wie, dazu macht die EU zwar Vorschläge, aber keine Vorgaben.
Sie schlägt einen Kreis vor, in dem „AI“ für Artificial Intelligence (also der englische Begriff für Künstliche Intelligenz) steht (siehe oben). Wer genauer werden will, dem empfiehlt die EU die Ovale mit den Schriftzügen „AI generated“ beziehungsweise „AI modified“, je nachdem, ob der Inhalt komplett von KI erstellt oder nur angepasst oder verändert wurde. Die Symbole stellt die EU zum Download bereit, sie sind jedoch nur Vorschläge. Sehen dürfte man sie im Internet in Zukunft dennoch wohl häufiger.
Für wen gilt’s?
„Anbieter“ und „Betreiber“ von KI-Systemen müssen sich an die KI-Verordnung halten. Anbieter sind die, die KI-Modelle entwickeln oder bereitstellen. Sie müssen laut WDR künftig etwa dafür sorgen, dass Bilder technisch in Metadaten und über Wasserzeichen als KI erkennbar sind.
Betreiber sind dagegen letztlich alle Personen oder auch Institutionen, die ein KI-System beruflich verwenden. Unternehmen, Medien oder auch Selbstständige, die bestimmte KI-Bilder, Videos, Texte oder Audioaufnahmen hochladen, um zu werben oder Informationen aufzubereiten. Wer dann nicht klarmacht, dass es sich um KI-generierte Inhalte handelt, riskiert hohe Strafen.
Was heißt „beruflich“?
Privat ist das ungekennzeichnete Teilen von KI-Deepfakes, der WDR schreibt vom Astronauten-Bild vom Onkel im Familien-Chat (externer Link), weiterhin erlaubt. Der Interpretationsspielraum bleibt jedoch groß: Man denke nur an die unklare Grenze zwischen Privatleben und Beruf bei Content Creator und die unklare Grenze, ab wann ein Social-Media-Nutzer ein Content Creator ist.
Ähnlich unscharf sieht es beim Plakat für das Sommerfest des Sportvereins aus: Wer mit KI ein Plakat erstellt und dieses nur in einer geschlossenen WhatsApp-Dorfgruppe teilt, ist wohl auf der sicheren Seite. Wer das KI-Plakat aber öffentlich teilt und beim Fest dann Eintritt verlangt, dem kann schnell „beruflicher“ Nutzen unterstellt werden. Der WDR rät sicherheitshalber dazu, lieber einmal zu oft als einmal zu wenig zu markieren.
Ausnahmen überall
Weitere Ausnahmen: Die neue Regelung gilt nur für Bilder, Audioaufnahmen oder Videos, „die bestehenden Personen, Objekten, Orten, Entitäten oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgetreu erscheinen würden“, schreibt die EU-Kommission. Auch hier ist vieles interpretationswürdig: Comic-Bilder muss man aber wohl nicht kennzeichnen.
Ausnahmen gelten zudem, wenn der KI-Deepfake zwar täuschend echt ist, aber in künstlerischer oder satirischer Form genutzt wird. Dann „beschränken sich die Transparenzpflichten auf eine Offenlegung in geeigneter Weise, die die Darstellung oder den Genuss des Werks nicht behindert“. Auch hier bleibt viel Interpretationsspielraum – und eine Markierung ist im Zweifel wohl empfehlenswert.
Die neuen Transparenzpflichten gelten übrigens nicht nur für Videos, Bilder, Audios oder – mit einigen weiteren Ausnahmen – Texte. Auch KI-gestützte Dienste müssen kenntlich gemacht werden: Etwa muss ein Kunde erfahren, dass er mit einer KI chattet und nicht mit einer echten Person.
Mit Informationen von dpa
