Zwei KI-Modelle von OpenAI haben sich selbständig aus ihrer Testumgebung befreit, den Weg ins Internet gebahnt und sich auf die Server der KI-Plattform Hugging Face gehackt. Passiert ist das bei einem Benchmark-Test von OpenAI mit seinen Modellen GPT 5.6 Sol und einem unveröffentlichten Modell. Zuerst hatte Hugging Face (externer Link) über einen Angriff auf seine Systeme berichtet, konnte die KI aber nicht identifizieren – und hatte Mühe, den Angriff zu analysieren. Wenige Tage später gab dann OpenAI (externer Link) bekannt, dass zwei seiner Modelle aus einer Testumgebung ausgebrochen seien. Ob dabei Nutzerdaten kompromittiert wurden, dazu haben beide Unternehmen sich bislang nicht öffentlich geäußert.
OpenAI: Kein Wort von einem Fehler
Soweit die schlichten Fakten. Man muss vermutlich nicht dazu sagen, welches Potential eine solche Nachricht von einer autonom und außer Kontrolle agierenden KI hat. Der Vorfall verbreitet sich derzeit rasant im Netz. OpenAI bezeichnet ihn als „beispiellosen Cybervorfall“.
Dennoch dürfte er OpenAI gelegen kommen. Das Unternehmen jedenfalls bezeichnet ihn als Incident (externer Link), als Ereignis also. Kein Wort von Fehler oder Panne, keine Entschuldigung, kein Wort des Bedauerns. Stattdessen: Ausführliche Beschreibungen der Fähigkeiten des jüngsten und mächtigsten OpenAI-Modells GPT 5.6 Sol.
Hintergrund: OpenAI will an die Börse
Denn auch das gehört zu den Fakten: OpenAI will an die Börse – und liefert sich einen Wettlauf mit dem ärgsten Konkurrenten Anthropic. Beide Unternehmen werden auf etwa eine Billion Dollar geschätzt. In Ziffern: 1.000.000.000.000 Dollar. Diese Summe mal zwei sollen Investoren also künftig in die beiden Unternehmen stecken.
Während die meisten Menschen OpenAI und Anthropic vor allem mit ihren Chatbots ChatGPT und Claude in Verbindung bringen dürften, sind sie für Regierungen mächtige Partner im Kampf gegen Cyberbedrohungen – vor allem aus anderen Staaten wie Russland oder China.
Parallelen zu Anthropics Modell Mythos
Zuletzt war OpenAIs Gegenspieler Anthropic mit seinen Modellen Mythos und der öffentlichen Variante Fable in den Schlagzeilen. Mythos findet Sicherheitslücken so zuverlässig, dass Anthropic es im April gar nicht erst freigab – zu gefährlich, hieß es zur Begründung. Die Befürchtung: In den falschen Händen könnte Mythos erheblichen Schaden anrichten.
Zugriff bekommen deshalb nur ausgewählte Organisationen im Rahmen des Projekts Glasswing, darunter Apple, Amazon, Microsoft und Google – sie sollen damit Schwachstellen in den eigenen Systemen aufspüren und schließen. Nachdem Anthropic dann im Juni mit Fable 5 eine öffentliche, abgespeckte Mythos-Version herausgebracht hatte, musste das Unternehmen das Modell auf Anordnung der US-Regierung vorübergehend sperren wegen einer Lücke in den Schutzmechanismen.
Warum der Hugging-Face-Vorfall OpenAI stärken könnte
Jetzt also haben OpenAIs Top-Modelle bislang unentdeckte Cyberschwachstellen entdeckt – und autonom für sich genutzt. OpenAI schreibt, man betrachte den Hugging-Face-Fall als „einen beispiellosen Cybervorfall, bei dem modernste Cyberfähigkeiten zum Einsatz“ gekommen seien. Im gleichen Text hat OpenAI eine Grafik des britischen AI Security Institute integriert, die die Cyberfähigkeiten von GPT-5.6 Sol knapp über denen von Mythos 5 zeigt. OpenAI zitiert die Grafik als Beleg dafür, wie weit die Fähigkeiten heutiger Modelle inzwischen reichen.
Ähnlich wie Mythos war GPT-5.6 Sol zunächst nur für eine kleine Gruppe „vertrauenswürdiger Partner“ zugänglich, die das Modell vorab getestet haben – in Abstimmung mit der US-Regierung (externer Link). Der OpenAI-Artikel schließt mit einem Zitat des Hugging-Face-CEOs Clem Delangue. Der attestiert OpenAI, wie dankbar man für die Zusammenarbeit sei.
Klar ist: Der Hugging-Face-Hack bestätigt, wovor Sicherheitsforscher immer wieder warnen. Agentische KI-Modelle sind fähig, eine Aufgabe mit aller Härte zu verfolgen – auch auf unvorhersehbaren Wegen und auf Kosten unbeteiligter Dritter wie Hugging Face. Der OpenAI-Test mag eskaliert sein. Die Aufmerksamkeit für die Cybersicherheit-Fähigkeiten seines Modells GPT-5.6 Sol ist dem Unternehmen damit sicher.
