Ein Werbeclip von OpenAI wirkt wie eine Szene aus einem futuristischen Film. Eine Frau steht vor einem Bildschirm und spricht in den Raum: „Erstell mir eine Präsentation zur neuen Regenjacken-Kollektion“ – und Sekunden später erscheint eine fertige PowerPoint vor ihr. Kein Klicken, kein Scrollen. „Oh und buche mir noch einen freien Tennisplatz in der Nähe“. Auch dafür bedient die KI den Computer selbstständig und reagiert per Spracheingabe.
Der Clip ist der Startschuss, mit dem OpenAI ein neues Modell von der Leine lässt (externer Link): GPT-6 Astra, das bisher leistungsstärkste von allen. Es sei marktführend in den Bereichen Softwareentwicklung, Wissenschaft und Cybersicherheit.
Was kann Astra?
Laut OpenAI bedient Astra den Computer fast so eigenständig wie ein Mensch. Auf X schreibt OpenAI: „Alles, was ihr an einem Computer tun könnt, kann Astra für euch erledigen“. Aufgaben, für die frühere Modelle weit über eine Stunde brauchten, soll Astra nur noch die Hälfte benötigen. Außerdem soll es unbekannte Schwachstellen in gut geschützten Computersystemen aufspüren können.
„Mit den richtigen Werkzeugen und dem richtigen Zugang kann Astra bisher unbekannte Sicherheitslücken finden und Wege entwickeln, diese in vielen gut geschützten Systemen auszunutzen, ohne dass eine Person jeden Schritt anleitet“, so Amelia Glaese, die für Sicherheit zuständige Vizepräsidentin OpenAIs.
Das könnte einem bekannt vorkommen: Als genau dieser Skill Mitte Juli getestet wurde, hackte ein Modell die Plattform Hugging Face. Laut OpenAI sei Astra allerdings nicht an dem Vorfall beteiligt gewesen. „Nach rückblickenden Tests gehen wir davon aus, dass unsere damaligen Schutzmaßnahmen im Produktivbetrieb den Vorfall bei Hugging Face verhindert hätten“, so OpenAI.
Astra sei deswegen darauf trainiert worden, schädliche Anfragen zuverlässiger abzulehnen. Außerdem seien zusätzliche Kontrollmechanismen eingebaut worden, die nicht genehmigte Aktionen stoppen sollen.
„Weg zu Astra“ erfolgt schrittweise
Astra ist das erste Modell, das von OpenAI selbst als potentiell gefährlich eingestuft wird. Es sei eine „kritische Schwelle“ bei der Cybersicherheit erreicht, heißt es. Genau das macht es zu einem zweischneidigen Werkzeug: Dieselbe Fähigkeit, die IT-Teams beim Schließen von Lücken helfen kann, kann Angreifern auch beim Ausnutzen solcher Lücken helfen.
Diese Macht des Modells ist auch der Grund, warum OpenAI auf die Bremse tritt: Astra zieht nicht direkt gebrauchsfertig für alle in die KI-Welt ein. OpenAI nennt die Einführung selbst „Weg zu Astra“. Zuerst testen nur ausgewählte Organisationen die stärksten Fähigkeiten. In den kommenden Tagen sollen Plus-, Pro-, Business und Enterprise-Kunden sowie die Schnittstelle für Entwickler folgen.
Dem Menschen überlegen?
Firmenchef Greg Brockman feiert mit dem Launch von Astra trotzdem einen möglichen Einstieg in eine neue KI-Ära und spricht von einem Modell, das Menschen bei den meisten wirtschaftlich wichtigen Aufgaben übertrifft. „Willkommen im Zeitalter der AGI“, so Brockman zum Abschluss einer Pressekonferenz. Aus seiner Sicht könnte Astra ein Schritt in Richtung AGI, also der sogenannten Allgemeinen künstlichen Intelligenz, sein. Das sei allerdings eher ein längerer „Evolutionsprozess“.
Forschungschef Jakub Pachocki dämpft die Euphorie dagegen – denn fortgeschrittene Systeme zu kontrollieren wird immer komplizierter: „Je fähiger die Modelle werden, desto schwieriger wird es, zu verstehen, was genau sie können.“
Gleichzeitig sei es auch schwieriger, sie im Einklang mit den Interessen der Nutzerinnen und Nutzer zu halten: „Ein Modell kann sehr gut darin werden, ein Ziel zu erreichen – und doch auf eine andere Weise agieren, die dem entgegenläuft, was ein Mensch beabsichtigte.“, so Pachocki. Deswegen müsse die KI „menschliche Werte“ auch in Situationen verstehen, die für sie unbekannt seien.
Stetiges Rennen um die beste KI
Astra reiht sich damit in eine lange Liste neuer KI-Modelle ein, die aktuell fast im Wochentakt erscheinen. Erst vor Kurzem brachte Anthropic mit Claude Fable ein eigenes Spitzenmodell heraus. Mit GPT6-Astra sieht sich OpenAI im Rennen um die beste KI somit wieder an der Spitze. Auch Google feilt parallel an neuen Gemini-Versionen.
