Viele Timelines in den sozialen Medien sind voller KI-generierter Inhalte. Ob Videos und Fotos fake sind, lässt sich teils kaum noch auf Anhieb erkennen. Und wer Chatbots nutzt, der kann sich auch nicht sicher sein, dass jede Quelle, Zahl oder jeder Fakt stimmt. Doch wie kann man sein Kind vor den Gefahren schützen? Eine neue Umfrage zeigt: Eltern wissen selbst nicht genau, worauf sie achten müssen.
Für die Studie „Eltern im Fokus“ der Körber Stiftung [externer Link] wurden rund 1.000 Eltern von Schulkindern zwischen zwölf und 18 Jahren befragt. 42 Prozent geben an, dass ihr Kind bereits einmal eine Falschinformation oder einen KI-generierten Inhalt für echt gehalten hat. Das betrifft nicht nur Kinder: 28 Prozent der Eltern fühlen sich im Umgang mit KI selbst unsicher.
KI ist längst Normalität vieler Kinder
Wie selbstverständlich KI für Jugendliche ist, zeigt die JIM-Studie 2025 [externer Link], für die 1.200 Jugendliche befragt wurden. Der Großteil hat demnach bereits ChatGPT benutzt – meistens für Hausaufgaben und zum Lernen. 70 Prozent der Jugendlichen haben angegeben, mit Hilfe der KI nach Informationen zu suchen. Mehr als die Hälfte lässt sich von Chatbots erklären, wie etwas funktioniert.
Besonders eine Zahl ist erschreckend: 57 Prozent halten die KI-generierten Inhalte für vertrauenswürdig. Denn Sprachmodelle können sehr überzeugend klingende Lügner sein. Wer eine KI als Suchmaschine benutzt, muss also in der Lage sein, Inhalt und Quelle zu prüfen.
🎧 Wie verändert KI unser Leben? Und welche KI-Programme sind in meinem Alltag wirklich wichtig? Antworten auf diese und weitere Fragen diskutieren Gregor Schmalzried, Marie Kilg und Fritz Espenlaub jede Woche in „Der KI-Podcast“ – dem Podcast von BR24 und SWR.
Jugendliche wissen bereits viel
Vieles rund um den KI-Umgang haben sich viele Jugendliche selbst angeeignet. Das zeigt eine Untersuchung der Bayerischen Landeszentrale für neue Medien [externer Link]. Jugendliche nehmen Algorithmen bewusst wahr und wissen, dass soziale Netzwerke Inhalte nach bestimmten Kriterien auswählen. Was aber genau dahintersteckt, können sie oft nicht erklären.
Bevor sie einen Inhalt – zum Beispiel ein KI-generiertes Video – überhaupt prüfen und hinterfragen können, ist es aber oft schon zu spät: Besonders extreme Inhalte werden Jugendlichen oft in die Timelines gespült, ohne dass sie aktiv danach gesucht haben. Die Studie zeigt: Ein Großteil der Jugendlichen war bereits mit politischen Ansichten im Netz konfrontiert, fast die Hälfte mit Hassbotschaften oder Verschwörungstheorien.
Eltern wollen mehr Orientierung
Entsprechend groß ist der Wunsch vieler Eltern nach mehr Unterstützung. Laut der Körber-Befragung finden es die meisten Eltern wichtig, dass Kinder lernen, Falschinformationen von Fakten zu unterscheiden. Einige sehen dafür auch die Schule in der Verantwortung.
Jugendliche müssen demnach lernen, mit neuen Technologien umzugehen: Antworten kritisch überprüfen, Quellen checken und erkennen, was eine verlässliche Information ausmacht.
Heißt die Lösung „ChatGPT for Teens“?
Auch KI-Anbieter versuchen jetzt auf diese Lücke zu reagieren. OpenAI hat diese Woche eine Version von ChatGPT angekündigt [externer Link], speziell für Jugendliche zwischen 13 und 17 Jahren. „ChatGPT for Teens“ soll zusätzliche Schutzmechanismen bieten und Eltern mehr Kontrolle ermöglichen. OpenAI bewirbt das Angebot mit den Bildungschancen der KI. So soll die Teens-Version beim Lernen unterstützen, zum Beispiel mit Hausaufgaben-Erinnerungen und Quizzen.
Eltern können Konten ihrer Kinder verknüpfen, Ruhezeiten festlegen und in bestimmten Risikosituationen Benachrichtigungen erhalten. Zum Beispiel dann, wenn es Hinweise auf eine mögliche Essstörung, einen Suizid oder sexuelle Inhalte gibt. Außerdem darf der Chatbot nicht vorgeben, Gefühle zu haben.
Gutes Timing von OpenAI?
Gleichzeitig stehen KI-Anwendungen vor allem wegen ihres Umgangs mit jungen Nutzern in der Kritik. Weil Chatbots immer menschlicher wirken, verwenden manche Menschen sie als emotionale Stütze. Auch OpenAI ist mit Klagen konfrontiert: Erst im Juni reichte Florida als erster Bundesstaat eine Klage gegen das Unternehmen und seinen Chef Sam Altman ein – wegen der Gefährdung von Kindern und Jugendlichen.
