Um KI-generierte Inhalte zu erkennen, gibt es inzwischen einige Anhaltspunkte: Bei Fotos prüft man zum Beispiel, ob es einen sechsten Finger gibt, bei Videos achtet man auf die Lichtverhältnisse. Aber woran erkennt man KI-generierte Texte?
Für viele haben KI-Chatbots den Alltag und die Arbeit an vielen Stellen erleichtert: Eine scheinbar perfekt formulierte E-Mail oder kreative Geburtstagsglückwünsche lassen sich im Handumdrehen erstellen. Auch Unternehmen nimmt die KI Arbeit ab: Im Kundensupport etwa können Kunden ihre Fragen in einem Chat stellen, auf die eine KI antwortet. Auch im Journalismus kommt an manchen Stellen KI zum Einsatz: zum Beispiel, um Interviews zu transkribieren.
Neue Kennzeichnungspflicht soll Transparenz schaffen
Seit Anfang August schreibt die EU vor, dass KI-generierte Inhalte gekennzeichnet werden müssen. So muss für jeden klar erkennbar sein, wo und wie KI eingesetzt wird – etwa in Bildern, Videos oder Artikeln. So steht es in den Transparenzpflichten des EU AI Acts.
Ab wann Texte gekennzeichnet werden müssen, ist im Artikel 50 des EU AI Acts klar geregelt: Zunächst fallen Texte darunter, die „die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren“. Außerdem muss der Text ganz oder überwiegend KI-erzeugt sein und es darf im Anschluss keine echte redaktionelle Kontrolle stattgefunden haben. Erst wenn alle drei Kriterien zutreffen, fällt ein Text in die Kennzeichnungspflicht.
Woran man KI in Texten erkennen kann
Wer häufig Chatbots nutzt, kennt die typischen Schreibmuster. Die KI benutzt oft den langen Gedankenstrich „–“, zählt gerne Dinge auf (am liebsten im Dreiklang) und verwendet meist positive, eher unspezifische Adjektive wie „ganzheitlich“, die man sonst vermutlich seltener verwendet.
Außerdem zieht die KI gerne Vergleiche, die beim längeren Nachdenken eigentlich keinen Sinn ergeben oder sehr weit hergeholt wirken. „Es ist nicht X – es ist Y“ ist dabei eine Formulierung, die ChatGPT oft verwendet.
Um die KI als Autor zu entlarven, gibt es schon länger sogenannte KI-Detektoren, beispielsweise Pangram (externer Inhalt). Zwar funktionieren sie inzwischen schon sehr gut, aber auch sie lassen sich austricksen und sind zum Teil ungenau.
Abstufungen zwischen menschlichem und KI-Anteil
Wie viel Mensch und wie viel KI hinter einem Text steckt, lässt sich grob in drei Grade unterteilen:
- Die KI liefert Ideen: Viele nutzen die KI als „Brainstorm-Partner“. Denkt man zum Beispiel über ein Thema nach, kann die KI weitere Perspektiven oder neue Ansätze liefern. Der Text wird im Anschluss aber vom Menschen selbst geschrieben.
- Die KI liefert einen Entwurf: Gibt man der KI seine Ideen, eine grobe Gliederung oder einen Vorschlag, kann sie im Anschluss den Text schreiben. Der Mensch liest ihn aufmerksam, passt den Stil an seinen eigenen an und korrigiert mögliche Fehler.
- Die KI liefert den ganzen Text: Der Mensch gibt der KI maximal vor, worum es im Text gehen soll. Die KI formuliert ihn vollständig, und der Mensch liest ihn entweder gar nicht oder prüft ihn nur kurz, bevor er verwendet wird.
Die Probleme von KI-generiertem Text
Wer einen Text vollautomatisch schreiben lässt, steht vor einem großen Problem: Die KI kann sich an anderen, bestehenden Texten bedient haben. Es besteht keine Garantie, dass es sich nicht um ein Plagiat handelt. Es liegt also am Menschen, genau zu prüfen, ob die KI Textpassagen oder Formulierungen geklaut hat.
Außerdem kann eine KI lügen. Zwar liefern Chatbots manchmal die Quellen mit – doch in einigen Fällen kann die KI halluzinieren, sich also Informationen ausdenken. Auch hier ist es die Aufgabe der Nutzer, jeden Text auf Richtigkeit zu prüfen – am besten, indem man zwei seriöse Quellen miteinander vergleicht.
Macht Textgenerierung dumm?
Eine Studie des MIT von 2025 (externer Link) zeigt: Wer beim Schreiben Chatbots nutzt, zeigt messbar weniger kognitive Aktivität. Davon sind besonders jüngere Nutzerinnen und Nutzer betroffen. Für die Untersuchung sollten über 50 Studierende Aufsätze schreiben – eine Gruppe ohne Hilfsmittel, eine Gruppe mithilfe der Google-Recherche und eine andere mit ChatGPT.
Die ChatGPT-Gruppe schnitt dabei durchweg am schwächsten ab. Lehrkräfte empfanden ihre Texte als „seelenlos“, unpersönlich und austauschbar. Außerdem konnten sich die Teilnehmenden kaum an Inhalte oder Formulierungen erinnern.
