Vor lauter Diskussion um ein generelles Social-Media-Verbot in der EU könnte man es fast vergessen: Wer jünger als 13 Jahre alt ist, darf Instagram und Facebook schon heute nicht nutzen. Das Problem ist nur: Bislang gibt es kein System, das das zuverlässig kontrolliert. Eine Altersverifikation könnte helfen. Die aber scheitert bislang am Datenschutz.
Bislang funktioniert die Altersangabe auf Instagram und Facebook so: Wer ein eigenes Profil anlegen möchte, klickt ein Geburtsdatum. Fertig. Die Plattformen hoffen auf die Ehrlichkeit der jungen Nutzer. Die aber nehmen es damit teilweise nicht ganz so ernst.
Also scrollen mitunter Zehnjährige unbeobachtet von ihren Eltern durch die Netzwerk-Feeds. Studien warnen seit Jahren vor den Auswirkungen auf das noch unausgereifte Gehirn von Kindern und Jugendlichen. Dass sie zudem schutzlos den Manipulationen Pädokrimineller ausgeliefert sind, realisieren viele Eltern mitunter erst durch Gerichtsprozesse.
Meta-KI soll durch Knochenmerkmale Kinder identifizieren
Jetzt hat Meta seine Methoden zur Altersverifikation verschärft (externer Link). Metas KI soll den Bild-Content unter anderem nach anatomischen Merkmalen von Kindern und Jugendlichen scannen. In Posts, Kommentaren, Bios und Bildunterschriften fahnden die Systeme zudem etwa nach Geburtstagsfeiern oder Schulnoten. Im Kontext des Gesamtprofils könne das Aufschluss über das echte Alter geben.
Eine Gesichtserkennung sei das ausdrücklich nicht, betont Meta. Das System identifiziere keine konkrete Person, sondern schätze nur eine Altersgruppe. Damit sieht sich Meta im Einklang mit dem EU-Datenschutz. Denn der DSGVO zufolge sind biometrische Daten solche, die die eindeutige Identifizierung einer Person ermöglichen. Die Verarbeitung solcher Daten zum Zweck der Identifizierung ist grundsätzlich verboten.
Erkennt das System einen Nutzer als minderjährig, deaktiviert Meta das Konto. Die Wiederfreischaltung gibt es nur nach Altersnachweis. Jugendliche zwischen 13 und 17 können dann im eingeschränkten Teen-Modus weitermachen – mit reduzierten Kontaktmöglichkeiten und gefilterten Inhalten.
Auf Instagram weitet Meta das System derzeit auf 27 EU-Länder und Brasilien aus. Auf Facebook schaltet Meta die neue KI zunächst in den USA frei, ab Juni dann in Großbritannien und der EU.
Die EU setzt Meta unter Zugzwang
Der Schritt kommt nur wenige Tage, nachdem die EU-Kommission vorläufig festgestellt hat, dass Instagram und Facebook gegen den Digital Services Act verstoßen (externer Link). Meta verhindere nicht effektiv, dass Kinder unter 13 Jahren die Plattformen nutzen. Nach Schätzung der Kommission tun das bislang bis zu zwölf Prozent dieser Altersgruppe. Sollte sich die vorläufige Feststellung der Kommission bestätigen, drohen Meta Strafen von bis zu sechs Prozent des weltweiten Jahresumsatzes. Das wären mehr als 10 Milliarden Euro.
Jetzt also hat Meta reagiert. Die EU dürfte es auch.
Denn der Europäische Datenschutzausschuss (EDSA) hält ausdrücklich fest, dass Altersverifikation kein Mittel sein darf, mit dem Anbieter Profile ihrer Nutzer erstellen. Bei der Verarbeitung biometrischer Daten sei zudem „äußerste Aufmerksamkeit“ geboten, automatisierte Entscheidungen über Kinder sollen die Ausnahme bleiben.
Und: Meta schreibt zwar, dass irrtümlich gesperrte Nutzer sich über den Verifikations-Anbieter Yoti wieder freischalten lassen könnten. Yoti aber hat erst kürzlich ein Bußgeld der spanischen Datenschutzbehörde AEPD (externer Link) über 950.000 Euro kassiert – unter anderem wegen unrechtmäßiger Verarbeitung biometrischer Daten. Yoti hat Berufung eingelegt.
Eine eigene Lösung für die Altersverifikation hat die EU-Kommission zwar am 15. April vorgestellt: eine App, die anonyme Altersnachweise ausstellt, ohne dass Plattformen wissen, wer dahintersteht. Allerdings wird die App zunächst noch weiter gestestet.
Der Kampf um den Schutz von Kindern zwischen der EU und Meta dürfte also weitergehen.
