Social Media: Wie Deutschland Kinder künftig schützen will

Nicht weniger als 56 Handlungsempfehlungen haben die Experten der Kommission „Kinder- und Jugendschutz in der digitalen Welt“ der Politik übergeben – nach nur rund neun Monaten. Das ist schnell und vielleicht ein Hinweis darauf, wie sehr die Zeit drängt.

Digitale Welt – enorme Chancen und erhebliche Risiken

Soziale Netzwerke, Algorithmen, Künstliche Intelligenz (KI), Daten: Sie bieten Kindern und Jugendlichen enorme Chancen – aber auch erhebliche Risiken. Sie zu beurteilen und Lösungen zu finden, war die Aufgabe.

Klar ist: Folgt die Politik den Empfehlungen, dann könnte Deutschland der EU-Kommission einen Mittelweg vorschlagen. Denn von einem nationalen Alleingang rät die Kommission ab. Kinder und Jugendliche sollen den Experten zufolge teilhaben am Digitalen, an gesellschaftlichen Debatten und der politischen Meinungsbildung. Sie sollen sich informieren können und soziale Kontakte pflegen – auch auf Social Media.

KI, Spiele, Fakes – und Social Media

In dem 115-seitigen Dokument (externer Link) geht es um die digitale Welt als Ganzes: um KI-Chatbots als Freundesersatz, KI-basierte Spielzeuge und generative KI, um Deepfakes und Desinformationen, Computerspiele, Cybermobbing, Kinder-Influencer und Livestreams.

Den mit Abstand größten Platz aber nehmen drei Empfehlungen ein: 36 (Mindestalter), 37 (Plattform-Regulierung) und 38 (Alterskontrolle). Sie alle zielen auf soziale Netzwerke wie Snapchat, TikTok, Instagram, Discord, Roblox und YouTube ab – ohne sie namentlich zu nennen.

Altersgrenze für Social Media: Ja, aber niedrig – und lieber nicht pauschal

Die Empfehlung 36 fragt, ob es in Europa ein pauschales Verbot für Social Media geben sollte und bis zu welchem Alter. Ja, kann man machen, sagen die Experten. Aber wenn, dann nur bis 13 Jahre – und nicht, wie in Europa viel diskutiert, bis 16 Jahre. Zudem müssten auch unter 13-Jährige teilhaben können – durch „nachweislich kindgerechte und risikoarme Angebote“.

Mehr Sympathie aber scheinen die Autoren für eine Alternative zu haben: Statt eines Pauschalverbots könnte Deutschland einzelne „Accounts, Dienste oder einzelne Funktionen für bestimmte Altersgruppen“ beschränken, wenn von ihnen besondere Risiken ausgehen.

Ein Beispiel, das nicht in dem Kommissionsdokument steht, aber die Idee illustriert: Endlosscrollen könnte für bis zu 13-Jährige komplett abgeschaltet werden, für 13- bis 16-Jährige auf 30 Minuten beschränkt werden und für 16- bis 18-Jährige auf 60 Minuten. Personalisierte Werbung könnte die EU nur für alle bis 16 Jahre untersagen und ein algorithmisch gesteuerter Feed generell für alle Minderjährigen tabu sein. Wie das technisch geht, darüber müssten sich dann die Entwickler der Plattformen die Köpfe zerbrechen.

Algorithmische Feeds und Dark Patterns: Was das ist und warum die Kommission sie explizit nennt

Algorithmische Systeme, Doomscrolling, Dark Patterns, Autoplay: In der Handlungsempfehlung 37 listen die Experten Dutzende Funktionen auf, die sie regulieren würden. Darunter auch diese:

• Kein algorithmisch gesteuerter Feed mehr: Algorithmen analysieren laufend das Verhalten der Nutzerinnen und Nutzer, darunter: wie lange sie ein Video anschauen, zu welchem Thema, von welchem Account – und wählen danach aus, welche Bilder und Videos als Nächstes angezeigt werden. Das kann Content sein, der nicht für Kinder oder Jugendliche gedacht ist, sie aber fasziniert: Gewalt, Sex, subtil Verstörendes. Wer hängen bleibt, liked oder kommentiert, bekommt mehr davon. So geraten die Kinder und Jugendlichen an Themen und Menschen, die sie negativ beeinflussen können. Künftig soll der Feed auf den Content abonnierter Kanäle beschränkt bleiben.
• Verbot von Dark Patterns wie Autoplay, Endless-Feeds und emotionalen Appellen: Die Plattformen setzen auf Funktionen, die Nutzerinnen und Nutzer möglichst lange binden – denn mehr Zeit bedeutet mehr Werbeeinnahmen. Dazu zählen Videos, die ungefragt starten und sich endlos aneinanderreihen. Studien etwa der Verbraucherzentrale (externer Link) zeigen: Ständig neuer, interessanter Content in Dauerschleife schüttet im Gehirn Dopamin aus – man fühlt sich euphorisch und zufrieden. Kindern und Jugendlichen fehlt die Selbstkontrolle, um sich aus der Dauerberieselung zu lösen. Denn der dafür nötige Teil ihres Gehirns ist noch nicht ausgereift. Solche Funktionen sollen nach den Vorschlägen der Expertenkommission deshalb für Minderjährige blockiert werden.

Gefragt sind am Ende aber nicht nur die Plattformen: Der Schutz von Kindern und Jugendlichen ist eine gesamtgesellschaftliche Aufgabe: Familien, Schulen, Sozialhilfe, Ärzte, Sicherheitsbehörden, Forscher – für sie alle hat die Kommission Empfehlungen entwickelt.