Eigentlich ist die Sache ja ganz einfach: Wer sich auf Instagram daneben benimmt, fliegt raus. Klingt auf den ersten Blick gut. Nur: Was es genau bedeutet, sich daneben zu benehmen, das definiert der Meta-Konzern nach eigenem Ermessen. Ob die Regeln eingehalten werden, das prüfen inzwischen weitgehend KI-Agenten. Und die blockieren Profile immer wieder – selbst dann, wenn der Content nach den netzwerkeigenen Regeln nicht zu beanstanden ist. Protestieren die Influencer oder klagen sie sogar gerichtlich, schalten die Netzwerke die Profile oft wieder frei oder stellen den Content wieder her – in vielen Fällen ohne Begründung.
Das macht den Prozess für viele Nutzer unberechenbar, nach dem Instagram Content löscht, ausblendet oder auch ganze Profile blockiert. Einige Communitys wie die LGBTQ-Szene kritisieren, Meta blockiere sie aus politischem Kalkül, wie es ein Artikel der taz nahelegt (externer Link, möglicherweise Bezahlinhalt). Das Netzwerk Repro Uncensored (externer Link) nennt es Zensur und dokumentiert weitere Fälle.
Meta betont auf Anfrage, auf all seinen Plattformen die unterschiedlichsten Ansichten und Perspektiven berücksichtigen zu wollen – auch die von Menschen, die ansonsten übersehen oder marginalisiert werden könnten.
Was hat Marie Joan Schmidt falsch gemacht?
Ein Beispiel ist die deutsche Influencerin Marie Joan Schmidt. Ihr folgen allein auf Instagram rund 800.000 Profile. Schmidt spricht offen über Sex und weibliche Selbstbestimmung. Am 23. April sperrte Instagram ihren Account wegen eines Verstoßes gegen die Richtlinien zur Kontointegrität (externer Link). Dort schreibt Meta, dass Konten eingeschränkt oder entfernt würden, wenn sie „der Community schaden.“
Womit Schmidt der Community geschadet hat, sagt Meta auf Anfrage nicht. Nur: Man benachrichtige die betroffene Person. Jeder könne sich über die Regeln informieren. Inzwischen ist Schmidts Profil wieder live.
Wie Metas KI entscheidet – und warum sie sich oft irrt
Was da im Hintergrund passiert, beschreibt das Aufsichtsboard von Meta in einem Grundsatzpapier (externer Link): „Die meisten Entscheidungen zur Inhaltsmoderation werden mittlerweile von Maschinen und nicht mehr von Menschen getroffen.“ Die Systeme entschieden, „was online bleiben, entfernt oder zur menschlichen Überprüfung weitergeleitet werden soll“.
Gleichzeitig konstatiert Meta, die KI habe Probleme, Kontext zu verstehen. Das führe zu Fehlern.
Ein weiterer Grund für fälschliche Sperrungen sei zudem das sogenannte Mass-Reporting. Dabei melden viele Nutzer einen bestimmten Inhalt oder ein Profil bei Meta mit der Absicht, es sperren zu lassen. Gezielt eingesetzt, können solche Kampagnen die automatisierten Systeme manipulieren. Meta hat das bereits 2023 im Zusammenhang mit der Wahl in Bolivien dokumentiert (externer Link). Damals sollten Oppositionsaccounts gezielt diffamiert werden.
Bislang hat Meta das Problem offenbar nicht in den Griff bekommen. Auf der aktuellen Sicherheitsseite (externer Link) erwähnt der Konzern koordinierte Versuche zum Missbrauch der Systeme, um Menschen „zum Schweigen zu bringen“.
Nicht löschen, aber auch nicht mehr sichtbar: Wenn Profile still verschwinden
Neben der vollständigen Sperrung von Profilen greifen die Netzwerke auch auf das sogenannte Shadowbanning zurück, um die Reichweite des Contents einzuschränken. Dabei bleibt das Profil zwar online, die Beiträge aber erscheinen nicht mehr in der Suche oder in den Empfehlungen. Die Account-Inhaber wissen davon nichts und können deshalb auch keinen Einspruch einlegen. Betroffen sind laut Meta (externer Link) „grenzwertige“ Inhalte, die zwar nicht gegen die Richtlinien verstoßen, „aber dennoch nahe dran sind“. Dazu gehört das „sexuell anzügliche“ Posen ebenso wie grenzwertige Hassrede oder blutige Bilder.
Nur: Auch dieses System ist fehleranfällig. Das Instagram-Profil sammlungderschande etwa dokumentierte in einem Beitrag (externer Link) Beleidigungen gegen eine Politikerin. Instagram löschte den Beitrag wegen „sexueller Ausbeutung von Erwachsenen“ und schränkte das Profil für einen Monat ein. Das System bestrafte damit die Dokumentation, nicht den eigentlichen Angriff. Die EU-Parlamentarierin Alexandra Geese hat angekündigt, bei der EU-Kommission eine Untersuchung zu beantragen.
Fazit: Regeln sind gut – aber oft schwer nachvollziehbar
Regeln für soziale Netzwerke sind natürlich sinnvoll. Wenn aber einzelne Influencer oder ganze Gruppen nicht nachvollziehen können, warum sie blockiert werden, stehen schnell Zensur-Vorwürfe im Raum. Wenn zudem KIs und Algorithmen darüber entscheiden, wer maximale Reichweite erhält, weckt das nicht unbedingt Vertrauen – sondern verunsichert umso mehr.
