Aufzählungen, unnötig bedeutungsschwere Sätze, der lange Gedankenstrich: Drei Anhaltspunkte, die beim Lesen auf einen KI generierten Text hinweisen könnten. OpenAI geht jetzt noch einen Schritt weiter: In den kommenden Wochen wird das Wasserzeichen in KI-Texten für alle Nutzer und Tarife aktiv.
Künftig wird damit eine Art „unsichtbare Signatur“ in einem Text stecken, wenn er mit ChatGPT erstellt wurde. Für Leserinnen und Leser ist das unmöglich zu sehen. Dafür soll ein neues Verfahren sorgen. Es heißt „textGrain“ und soll die künstlich erzeugten Texte lediglich maschinenlesbar erkennbar machen.
Wie sieht das Wasserzeichen aus?
Anders als ein klassisches Wasserzeichen auf einem Bild verändert OpenAI die Buchstaben nicht sichtbar und fügt auch keine verstecken Leerzeichen oder Symbole ein. Chatbots generieren Texte, in dem sie die Wörter durch Wahrscheinlichkeiten berechnen. Das Verfahren „textGrain“ beeinflusst die statistische Auswahl der Wörter, die die KI zum Schreiben benutzt.
Über einen längeren Abschnitt entsteht so ein bestimmtes Muster im Text. Spezielle Detektoren können danach suchen und einschätzen, ob der Text dieses Muster, also ein Wasserzeichen, enthält.
Hintergrund ist der EU AI Act
Die Einführung des Wasserzeichens ist eine Folge des europäischen KI-Gesetzes. Seit dem 2. August dieses Jahres gelten mit EU AI Act neue Transparenzvorgaben für KI-generierte Inhalte. Anbieter sind dazu angehalten, Möglichkeiten zu schaffen, KI-erzeugte oder manipulierte Inhalte maschinenlesbar zu kennzeichnen.
OpenAI ist damit nicht der erste Dienst, der das Wasserzeichen einführt. Google hat mit „SynthID Text“ bereits ein entsprechendes Verfahren entwickelt. Auch Anthropics Chatbot Claude versieht Texte mit einem unsichtbaren Wasserzeichen.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in „Der KI-Podcast“ – dem Podcast von BR24 und SWR.
Fehlalarme trotzdem möglich
KI-Texte in wissenschaftlichen Arbeiten, in der Schule oder den Netzwerken: Dass KI schnell plausibel klingende Texte erzeugen kann, sorgt für Probleme. Doch selbst das Wasserzeichen ist keine vollumfängliche Lösung. OpenAI weist darauf hin (externer Link), dass kurze Texte schwieriger zu prüfen sind. Bei 200 Token langen Passagen (etwa eine halbe DIN-A4-Seite) sei das Wasserzeichen in rund 80 Prozent der Überprüfungen erkannt worden. Dei 400 Token langen Texten in etwa bei 95 Prozent. Das zeigt ein technischer Bericht zu „textGrain“ (externer Link).
Wird ein KI-erzeugter Text aber überarbeitet, zum Beispiel umformuliert oder übersetzt, wird das Wasserzeichen geschwächt. OpenAI stellt die Detektoren, die Wasserzeichen erkennen können, zunächst nicht öffentlich bereit. Erstmal sollen nur ausgewählte Expertenorganisationen Zugriff erhalten. Grund dafür sind mögliche Fehlalarme.
Was man bei KI-Texten beachten sollte
Für bestimmte KI-Texte gelten außerdem Kennzeichnungspflichten für Menschen, zum Beispiel für journalistische Inhalte. Im privaten Rahmen spricht zwar erstmal wenig dagegen, Texte mit KI schreiben, ergänzen oder umformulieren zu lassen. Bevor man einen KI-Text aber verwendet, sollte man ihn nicht einfach blind übernehmen. Zahlen, Daten und Fakten sollten geprüft werden, Quellen sollten kontrolliert und mögliche Urheberrechte beachtet werden.
Auch persönliche oder vertrauliche Informationen gehören nicht in einen Chatbot. Unternehmen, Schulen oder Universitäten haben außerdem oft eigene Regeln zum KI-Einsatz. Deswegen gilt: Wer sich unsicher ist, ob, wie und wofür man einen künstlich erzeugten Text öffentlich verwenden darf, sollte das vorher mit Verantwortlichen abklären.
