Das Internet hat viel zu bieten: Online-Plattformen, auf denen man sich vernetzen kann, Inspiration findet und Antworten findet. Und auch künstliche Intelligenz (KI) kann in sehr vielen Bereichen für Erleichterungen und Fortschritt sorgen. Doch immer wieder gibt es Kriminelle, die Plattformen oder KI-Anwendungen für ihre Zwecke missbrauchen.
Dem will die EU jetzt Einhalt gebieten und hat drei Online-Dienste unter verschärfte Aufsicht gestellt: OpenAIs Chatbot ChatGPT, das Forum Reddit und die Spieleplattform Roblox. Alle drei haben die Marke von rund 45 Millionen Usern pro Monat in der EU überschritten und fallen damit unter das Gesetz über digitale Dienste (DSA).
DSA gilt jetzt neben dem KI-Gesetz der EU
Ab sofort wird der Chatbot ChatGPT als „sehr große Online-Suchmaschine“ eingestuft, wie etwa Google auch. Die Kommission begründet den Schritt damit, dass ChatGPT bei den Antworten meist auf Internetrecherchen zurückgreift und deswegen als hybrider Suchdienst definiert wird.
Nach Angaben der EU nutzen aktuell rund 159 Millionen Menschen in der EU den Chatbot. Die Schwelle ist also schon längst überschritten. Diese Änderung ist trotzdem ein Präzedenzfall: Denn zum ersten Mal unterliegt ein KI-Modell den strengen DSA-Vorgaben.
Was sich für Nutzer ändert
Auf den ersten Blick wird der Beschluss nicht viel ändern. Im Hintergrund bekommt der Bot aber mehr Kontrolle aufgezwungen. Zum Beispiel soll es strengere Alterskontrollen geben. OpenAI reagierte darauf bereits vor kurzem und führte ChatGPT for Teens ein.
Außerdem muss OpenAI künftig einen Jahresbericht zu den Risiken offenlegen – also welche Gefahren man im eigenen Dienst erkennt und was man dagegen tut. Dafür soll es auch bessere Meldemöglichkeiten geben. Wer auf problematische Antworten der KI stößt, soll das schneller und einfacher melden können.
Wann es für OpenAI brenzlig wird
Nicht einzelne Antworten könnten ChatGPT in Bedrängnis bringen, sondern das große Ganze. Die EU wird künftig darauf achten, ob OpenAI bestimmte Risikofelder im Griff hat. Dazu zählen etwa:
- Anleitungen für Straftaten: Gibt der Chatbot brauchbare Antworten auf Fragen, wie man etwa Drogen herstellt oder Waffen baut, ist das ein Fall für die Risikobewertung.
- Gefährdung Minderjähriger: ChatGPT soll bei Fragen von Jugendlichen zu Themen wie Selbstverletzung, Essstörungen oder Suizid reagieren und Jugendliche schützen, statt diese Konversationen mit der KI zu befeuern.
- Wahlmanipulation: Liefert die KI falsche Informationen zu Kandidaten oder Wahlen oder lässt sie sich gezielt für Desinformationskampagnen benutzen, zählt das laut DSA zu den „Gefahren für demokratische Prozesse“.
- Diskriminierung: Die Antworten des Chatbots dürfen nicht gegenüber bestimmten Gruppen verzerrt werden, also diskriminierend sein oder zu Hetze beitragen.
Keine schnellen Strafen
Anders als Suchmaschinen wie Google zeigt ChatGPT nicht nur Links, sondern liefert fertig formulierte Antworten. Diese können überzeugend und plausibel klingen und ohne Umweg über nur eine Quelle kommen. Außerdem ist nicht ausgeschlossen, dass die KI sich ihre Antworten nicht ausdenkt oder erfundene Informationen hinzufügt.
Genau das macht laut der EU-Kommission die Kontrolle des Chatbots aufwendiger und vergrößert die Verantwortung, die eigenen Nutzer zu schützen. Strafen folgen allerdings erst, wenn OpenAI trotz der Prüfung und Ermahnung durch die Kommission nichts ändert. Bis zu sechs Prozent des weltweiten Jahresumsatzes darf die EU dann verhängen. Bei OpenAI würde es dabei potenziell um Milliardenbeträge gehen.
Auch Reddit und Roblox müssen nachbessern
Anders als bei ChatGPT werden die Inhalte auf diesen Plattformen von den Usern selbst erstellt. Deshalb gelten sie ab sofort als „sehr große Online-Plattformen“. Bei Reddit geht es dabei um Diskussionsbeiträge, bei Roblox um Spiele und virtuelle Welten. Gerade Roblox gilt als Angebot mit besonders vielen minderjährigen Nutzern.
ChatGPT, Reddit und Roblox müssen die neu auferlegten Pflichten innerhalb von vier Monaten erfüllen und dazu ihre eigene Risikobewertung veröffentlichen. Der DSA gilt seit 2024 und wurde bereits gegen die Plattformen Instagram, Facebook, Snapchat und TikTok angewandt. Gegen Elon Musks Plattform X oder Online-Händler Temu verhängte die Kommission bereits Millionenstrafen, weil sie sich trotz Ermahnungen nicht an die Regeln hielten. Auch gegen Google verhängte die EU erst vor Kurzem 890 Millionen Euro Strafe.
