Die KI-Firma Anthropic hat nach einer Anordnung der US-Regierung den Zugang zu ihrer erst vor wenigen Tagen veröffentlichten Top-Software mit Künstlicher Intelligenz blockiert. Regierungsbehörden hätten Anthropic unter Verweis auf die nationale Sicherheit angewiesen, den Zugang aller Ausländer zu den KI-Modellen Fable 5 und Mythos 5 zu unterbinden, teilte das Unternehmen mit.
Betroffen von dem Verbot seien auch Ausländer, die sich in den USA aufhalten – selbst die, die bei Anthropic arbeiten. Als Folge der Anweisung habe man kurzfristig den Zugang für alle kappen müssen, hieß es in einer Stellungnahme. Der Firma zufolge glaubt die Regierung, Kenntnis von einer Methode erlangt zu haben, Beschränkungen in der Software aufzuheben.
Ist das System zur Schließung von Sicherheitslücken selbst ein Sicherheitsrisiko?
Die Künstliche Intelligenz hinter Anthropics KI-Modell Mythos ist besonders gut darin, zum Teil auch über Jahrzehnte unentdeckt gebliebene Software-Schwachstellen aufzuspüren. Diese Fähigkeit wurde bisher von US-Behörden und ausgewählten Unternehmen eingesetzt, um die Sicherheitslücken zu stopfen. Eine Sorge ist jedoch von Anfang an, dass eine solche KI in den falschen Händen zu einer gefährlichen Cyberwaffe werden könnte.
Das erst diese Woche veröffentlichte Modell Fable 5 basiert auf der Mythos-Technologie – bei ihm werden aber die Cybersicherheits- und Biotechnologie-Fähigkeiten blockiert. Mythos 5 ist die nicht-öffentliche volle Version, die weiterhin nur von Behörden und ausgewählten Unternehmenspartnern zur Härtung ihrer Systeme eingesetzt werden sollte.
„Jailbreaks“: Die Gefahr von Missbrauch
Anthropic betonte, man habe bisher nur teilweise Informationen von der Regierung erhalten. Die Firma habe einen Bericht geprüft, der nach Einschätzung des Unternehmens der Auslöser der Anordnung gewesen sein dürfte. Offenbar sei die Regierung besorgt wegen sogenannter Jailbreaks, also Methoden, mit denen Nutzer die eingebauten Sicherheitsvorkehrungen der KI umgehen können. Die US-Behörden befürchteten anscheinend, dass die KI-Modelle zur Aufdeckung von Schwachstellen in Software missbraucht werden könnten.
Diese Fähigkeit hätten auch Modelle anderer Anbieter wie etwa GPT-5.5 des Rivalen OpenAI. Anthropic sei nicht einverstanden damit, dass deswegen Software für Hunderte Millionen Nutzer blockiert werde.
Anthropic fordert transparentes Vorgehen der Behörden
Die Firma spricht von einem „Missverständnis“ und betont, dass die Sicherheitsvorkehrungen bei Fable 5 ausgiebig getestet worden seien. Ironisch daran: Erst vor wenigen Tagen hatte sich Anthropic-Chef Dario Amodei dafür ausgesprochen, die Regierung potenziell gefährliche KI-Software blockieren zu lassen. Anthropic betont aber, dass dies auf Basis transparenter und klarer Verfahren sowie technischer Fakten geschehen müsse. Das sei jetzt nicht der Fall.
KI-Konzern im Clinch mit der US-Regierung
Anthropic geriet in den vergangenen Monaten immer wieder in die Schlagzeilen. Die Firma riskierte einen Konflikt mit der US-Regierung, da sie trotz Drucks darauf bestand, dass ihre KI-Modelle nicht in autonomen Waffensystemen und zur Massenüberwachung in den USA verwendet werden dürfen.
Verteidigungsminister Pete Hegseth drohte dem Unternehmen daraufhin harsche Maßnahmen an, das Pentagon erklärte Anthropic zu einem Lieferketten-Risiko – was den Einsatz von Software des Unternehmens in Regierungsbehörden schwer beeinträchtigen kann. Die Firma klagt dagegen.
Stopp kurz vorm Börsengang
Die Anordnung erreicht Anthropic in einer für das Unternehmen sensiblen Phase: Im Mai hatte der Konzern vertraulich die Unterlagen für einen Börsengang eingereicht. Die IT-Chefin des Verteidigungsministeriums, Kirsten Davies, verteidigte das Vorgehen der Regierung: „Manche Dinge sind einfach wichtiger als Umsatzzyklen, Clickbait und Unternehmensbewertungen vor einem Börsengang. America First. Immer“, schrieb sie auf der Plattform X.
