Auch Meta überprüft Instagram-Nutzer
Tatsächlich ist ChatGPT nicht die einzige App, deren Nutzer mittlerweile von einem Algorithmus in eine Alterseinstufung geschickt werden. Meta, der Konzern hinter Instagram und Facebook, macht etwas ganz ähnliches. Seit Neuestem setzt Meta eine KI ein, um Fotos ihrer Nutzer zu analysieren, besonders typische Körpermerkmale wie Körpergröße oder Knochenstruktur. Meta betont, dass es sich dabei nicht um Gesichtserkennung handelt.
Auch, da die Daten mit anderen Informationen verknüpft werden können. Auch Geburtsagsglückwünsche von Freunden, öffentliche Erwähnungen von Schulklassen oder der Sprachstil können von der KI ausgewertet werden.
OpenAI und Meta reagieren damit auch auf politischen Druck. Immer wieder wird den großen Tech-Unternehmen vorgeworfen, nicht genug für den Kinderschutz auf ihren Plattformen zu tun.
Wie wirksam ist die Alterserkennung?
Das Problem: Rein technische Alterserkennungen können nie perfekt sein. Am Ende ermittelt der Algorithmus lediglich einen Wahrscheinlichkeitswert – und es liegt an dem Unternehmen, wie streng man diesen Wert interpretiert. Sagt der Algorithmus etwa: „Diese Person ist zu dreißigprozentiger Wahrscheinlichkeit minderjährig“, könnte man den Account als minderjährig einstufen – oder es lassen. Das ist dann weniger eine technische Entscheidung, und vor allem eine politische.
Denn rein technisch ist unklar, wie gut die digitale Alterserkennung überhaupt funktioniert. Einer Untersuchung des US-Standardisierungsinstituts NIST ist die Alterserkennung per Bild ausgerechnet bei Teenagern oft besonders ungenau. Ob die Methoden von OpenAI besser sind, ist bislang noch nicht klar.
Ein Gegenbeispiel zeigte kürzlich Australien: Trotz eines viel diskutierten Social-Media-Verbote sind dort rund 70 Prozent der Unter-16-Jährigen, die schon vor dem Verbot Social Media hatten, weiterhin auf den Plattformen aktiv.
