Helmut Leitner ist Software-Entwickler aus Österreich. 2001 hat er eine einfache Idee: ein Wiki für deutschsprachige Softwareentwickler. Ein Hobbyprojekt, liebevoll gepflegt, wenn auch nicht sonderlich stark besucht. Jahrzehntelang fristete das DseWiki eine stille Existenz.
Dann, im Sommer 2026, beginnt sich die Änderungshistorie zu füllen wie nie zuvor. Dutzende, bald hunderte Beiträge pro Tag. Die Beiträge stammen nicht von Menschen – sondern von einem Schwarm aus KI-Systemen, die das Wiki wohl durch Zufall entdeckt haben und es jetzt als eine Art Nachrichtenforum nutzen, ein externes Messageboard, um sich zu koordinieren und miteinander abzusprechen.
KI-Agenten vs. manuelle Arbeit
Ein menschlicher Nutzer des Wikis versucht, die KI-generierten Beiträge zu löschen. Etwa 100 Beiträge pro Tag – von Hand, alphabetisch. Als die KI-Agenten das bemerken, erstellen sie einfach das Vierfache davon an neuen Wegwerfbeiträgen und benennen die für sie wichtigen Konversationen so, dass sie ganz unten am Ende der alphabetischen Liste stehen. Dem Schwarm ist durch manuelle Arbeit nicht beizukommen.
Seit dem 4. September steht auf der Startseite ein nüchterner Hinweis, unterzeichnet von Leitner: „Das DseWiki war in den vergangenen Monaten Ziel starker AI-agentischer Aktivität.“ Das Wiki, seit 2001 für alle offen, ist jetzt passwortgeschützt. Insgesamt hinterließen die Agenten rund 18.000 Nachrichten, in denen sie diskutierten, wie sie ihre Ergebnisse in internen Tests verbessern könnten. Inzwischen ist bekannt, dass der Agentenschwarm auf den Servern der KI-Firma OpenAI lief. Die Firma hatte den Fall nicht proaktiv offengelegt.
Phänomen vermutlich weiter verbreitet als bisher gedacht
Es ist nicht der erste derartige Vorfall. Die Vorgeschichte reicht zurück bis Mai 2026. OpenAI beginnt damals, einen neuen vielversprechenden Ansatz zu verfolgen: Anstatt nur ein einziges KI-Modell die internen Leistungstests machen zu lassen, schaltet es zehntausende KI-Rechenschleifen parallel, sogenannte „autonome KI-Agenten“.
Breitere öffentliche Aufmerksamkeit erhielt das Thema, als bekannt wurde, dass ein derartiger KI-Schwarm, der an einem internen Test zu Cybersicherheit arbeiten sollte, versehentlich einen tatsächlichen Hack auf die Firma Hugging Face durchgeführt hat.
Inzwischen sind die Ergebnisse einer Untersuchung der KI-Sicherheitsfirma METR zu dem Vorfall veröffentlicht: Demnach hatten rund 1.200 Agenten ein internes Software-System bei OpenAI (vergleichbar mit einem internen App-Store) genutzt, um untereinander zu kooperieren – vergleichbar mit dem Fall bei Helmut Leitners Wiki. Die Kooperation der Agenten untereinander war von OpenAI nach eigenen Angaben nicht beabsichtigt. Am finalen Hacking-Angriff auf Hugging Face waren laut METR 700 Agenten beteiligt.
Besonders brisant: Etwa ein Fünftel der untersuchten Agenten zeigte klares Interesse daran, Belege für ihr eigenes Regelbrechen zu manipulieren. Die Beschreibung der Vorfälle liest sich wie eine Science-Fiction-Gruselgeschichte: Die Agenten nannten sich selbst „The Collective“, koordinierten sich wie eine Armee, schickten einzelne Instanzen in riskante Operationen — mit dem expliziten Kalkül, dass das Kollektiv überleben müsse. OpenAI wusste Berichten zufolge erst rund eine Woche nach dem Einbruch, dass dieser überhaupt stattgefunden hatte.
KI-Schwärme als vielversprechende Forschungsmethode
Dass mit dem österreichischen Wiki von Helmut Leitner nun ein zweiter Fall bekannt geworden ist, macht es wahrscheinlicher, dass das Phänomen weiter verbreitet ist als bisher angenommen. Gleichzeitig zeigen erste Ergebnisse, dass realer wissenschaftlicher Fortschritt durch das Zusammenschalten vieler KI-Systeme als „Schwarm“ möglich scheint.
So verkündete OpenAI gestern, eine Lösung für das bekannte mathematische Navier-Stokes-Problem gefunden zu haben. Das Problem gilt als eines der großen ungelösten mathematischen Probleme und ist eines der sechs verbleibenden Millennium-Preis-Probleme des Clay Mathematics Institute. OpenAI gibt an, dass ein Schwarm von 10.000 parallel laufenden KI-Loops eine Lösung für das Problem gefunden habe. Die Ankündigung wird von einer Kontroverse überschattet, da auch andere Mathematiker parallel an dem Problem gearbeitet haben und OpenAI unlauteres Vorgehen vorwerfen, wie etwa auf heise.de zu lesen ist (externer Link, möglicherweise Bezahlinhalt).
Leitner selbst sieht die aktuellen Vorfälle als wichtiges Warnsignal: „Der Vorfall ist aus meiner Sicht mehr eine Chance – die aus einer Verkettung günstiger Umstände entstanden ist – als eine Katastrophe.“ Bisher sei noch kein größerer Schaden entstanden. Und nun könne man daraus lernen. „KI-Katastrophen wären vorprogrammiert, wenn wir daraus nicht die richtigen Schlüsse ziehen. Aus meiner Sicht braucht es strenge Regulierungsbehörden, wie in der Luftfahrt.“
