Das KI-Unternehmen Anthropic ist für vieles bekannt: Sein Chatbot Claude ist der Hauptkonkurrent von OpenAIs ChatGPT, im März stritt sich das Unternehmen öffentlich mit dem Trump-Pentagon und erst vor einigen Tagen forderte es die ganze Welt zu einem Ende des KI-Wettrüstens und einer globalen KI-Entwicklungspause auf. Zumindest aus dieser Entwicklungspause dürfte nun aber nichts werden. Am Dienstag hat Anthropic sein bisher bestes KI-Modell veröffentlicht – und das hat es in sich.
Claude Fable oder Claude Mythos?
Auf den ersten Blick wird „Claude Fable 5“ wie jedes neue KI-Update: Bessere Zahlen in Tests, mehr Fähigkeiten bei komplexen Problemlösungen, teurere Kosten im Betrieb. Doch wer das neue Modell ausprobiert, der wird schnell herausfinden: Etwas ist anders an diesem KI-Modell.
Fragt man nämlich nach Themen aus den Bereichen Cybersicherheit, Biologie und Chemie, weigert sich „Claude Fable 5“, zu antworten. Stattdessen wird die Nachricht automatisch an das vorherige Modell „Claude Opus 4.8“ weitergeleitet – der Nutzer wird darüber informiert. Dafür muss man nicht einmal konkrete Fragen zu diesen Themen stellen – es reicht schon, Datenmaterial hochzuladen, das sich etwa auf die Entwicklung neuer chemischer Stoffe bezieht.
Warum das Modell so vorsichtig ist? Es handelt sich bei Claude Fable 5 eben nicht um irgendein neues Modell. Fable 5 ist eine überarbeitete Version von „Claude Mythos“, einem KI-Modell, das bereits vor zwei Monaten weltweit für Aufmerksamkeit sorgte. Damals, Anfang April, hatte Anthropic zwar die Existenz von „Claude Mythos“ bekanntgegeben, das Modell aber nicht veröffentlicht.
Wie gefährlich ist diese KI?
Der Grund: Claude Mythos ist besonders stark darin, Sicherheitslücken in fremder Software selbstständig aufzuspüren und auszunutzen. Besonders in der Welt der Cybersicherheit wurde diese Nachricht mit Beunruhigung aufgenommen – auch das Bundesamt für Sicherheit in der Informationstechnik (BSI) schlug Alarm.
„Claude Fable“ soll nun die technischen Fähigkeiten von „Claude Mythos“ beherrschen, dafür aber deutlich sicherer sein. Das eigentliche „Claude Mythos“ bleibt bislang einer kleinen Gruppe von Unternehmen und Organisationen vorbehalten – fast alle von ihnen sitzen in den USA. Seit Anfang Juni hat auch die EU-Cybersicherheitsagentur ENISA Zugriff. Deutsche Behörden sind bislang außen vor.
