OpenAI warnt, dass Astra möglicherweise die interne Stufe „Critical“ für Cybersicherheitsrisiken erreichen könnte, nachdem das unveröffentlichte Modell zehn bedeutende mathematische Resultate geliefert und zugleich rasch an autonomen Cyber-Fähigkeiten zugelegt hat.
Zentrale Punkte:
- OpenAI erklärte am 7. August, man könne kritische („Critical“) Cyberfähigkeiten von Astra nicht mehr ausschließen.
- Der Konzern hat einige interne Astra-Projekte gestoppt und verschärft Sicherheitskontrollen, Sandboxing und Monitoring.
- Astra erzeugte zehn Forschungsergebnisse, die langjährige Probleme in Mathematik und theoretischer Informatik lösten oder substanziell voranbrachten.
Astra als Cyber-Risiko
OpenAI teilte am 7. August mit, dass interne Tests deutliche Fortschritte bei agentenhaftem Coding und Cybersicherheit gezeigt hätten – so weitreichend, dass ein Erreichen der Stufe „Critical“ im Rahmen des Preparedness Frameworks nicht mehr ausgeschlossen werden könne. OpenAI betonte zugleich, dass Astra diese Schwelle nach derzeitigem Stand noch nicht sicher erfüllt; die Bewertung sei vorläufig.
Ein Modell der Stufe „Critical“ kann nach OpenAIs Kriterien autonom funktionsfähige Zero-Day-Exploits gegen zahlreiche gehärtete kritische Systeme entwickeln oder völlig neuartige End-to-End-Angriffe ausgehend von abstrakten Zielvorgaben ausführen. OpenAI zieht daher die Schrauben an: Netzwerk- und Toolzugriffe werden beschränkt, Model-Gewichte stärker geschützt, Verschlüsselung und Sandboxing ausgebaut, während das Monitoring für Astra-Einsätze mit agentischem Verhalten intensiviert wird.
Zugleich setzt das Unternehmen alle Astra-Aktivitäten aus, die die verschärften Auflagen noch nicht erfüllen, und will verstärkt mit Regierungsstellen sowie ausgewählten Organisationen für KI-Sicherheit bei Tests zusammenarbeiten. Am 1. August hatte OpenAI Astra noch als „unser nächstes großes Modell“ beschrieben, am 7. August nur noch als „eines unserer kommenden Modelle“.
Mehr dazu: Bitcoin nähert sich an diesem Wochenende einem BIP-110-Fork bei nur 2,59 % Miner-Unterstützung
Streit um mathemische Durchbrüche
Die Cyber-Warnung folgte auf OpenAIs Offenlegung, dass eine interne Astra-Version zehn Resultate in Bereichen wie Quantenkomplexität, Gitterkryptografie, Codierungstheorie und extremaler Kombinatorik erzielt habe. Nach Angaben des Unternehmens lösten oder verschoben diese Arbeiten langjährige offene Probleme deutlich und verursachten lediglich Token-Kosten von rund 2.000 US‑Dollar zu Sol-API-Tarifen.
Andrew Blumberg, Professor an der Columbia University und Vorstandsmitglied von First Proof, sagte gegenüber Mashable, die Resultate seien beeindruckend, änderten aber seine Einschätzung der aktuellen KI-Fähigkeiten nicht grundlegend. Viele Ergebnisse bestünden aus knappen Gegenbeispielen oder „kleinen, extrem klugen Konstruktionen“, die auf bestehender Forschung aufbauen. „Sie ändern meine Priors nicht“, so Blumberg.
Gleichwohl illustrieren die Resultate, wie Spitzenmodelle zu produktiven Forschungspartnern werden könnten – und parallel ein Sicherheitsdilemma erzeugen, wenn dieselben Coding-Fähigkeiten für Software-Exploits nutzbar sind.
Diese Spannung bestimmt zunehmend, wie OpenAI über Zugang und Rollout entscheidet.
Vor Astra hatte OpenAI GPT‑5.6 Sol in seinem Schema nur auf der Stufe „High“ für Cybersicherheit eingestuft, nicht als „Critical“. Das frühere Modell konnte zwar bei der Suche nach Schwachstellen und bei Exploit-Aufgaben helfen, hatte nach Unternehmensangaben aber keine verlässlichen autonomen Angriffe auf gehärtete Ziele gezeigt. Vor diesem Hintergrund markiert die aktuelle Astra-Einschätzung eine deutliche Eskalation.
Als Nächstes lesen: iPhone Fold: möglicher Erscheinungstermin 18. September, doch die Branche ist gespalten
