OpenAI warnt, dass Astra sich seiner kritischen Cybersecurity-Schwelle nähern könnte, nachdem das noch unveröffentlichte Modell 10 wesentliche mathematische Resultate erzielt und deutliche Fortschritte bei autonomer Cyber-Arbeit gezeigt hat.
Zentrale Punkte:
- OpenAI erklärte am 7. August, man könne kritische Cyber-Fähigkeiten von Astra nicht mehr ausschließen.
- Teile der internen Arbeit an Astra wurden gestoppt, während Sicherheitskontrollen, Sandboxing und Monitoring verschärft werden.
- Astra generierte zudem 10 Forschungsergebnisse, die langjährige Probleme in Mathematik und theoretischer Informatik lösten oder wesentlich voranbrachten.
Astra als Cyber-Risiko
OpenAI teilte am 7. August mit, dass interne Bewertungen zeigt hätten, dass Astra erhebliche Fortschritte bei agentischem Coding und Cybersecurity gemacht habe – so weit, dass das Unternehmen nicht länger ausschließen könne, dass das Modell unter seinem Preparedness Framework das Niveau „Critical“ erreicht. OpenAI betonte, dass nicht behauptet werde, Astra erfülle diese Schwelle bereits; die Einschätzung sei vorläufig.
Ein „kritisches“ Modell im Sinne des OpenAI-Frameworks könnte eigenständig funktionsfähige Zero-Day-Exploits für zahlreiche gehärtete kritische Systeme entwickeln oder neuartige Ende-zu-Ende-Angriffe von einem rein strategischen Ziel ausführen. OpenAI verschärft nach eigenen Angaben nun Netzwerk- und Werkzeugzugriffe, Schutz der Modellgewichte, Verschlüsselung und Sandboxing und baut das Monitoring von agentischen Einsätzen von Astra aus.
Das Unternehmen legte außerdem alle Astra-Aktivitäten auf Eis, die die verschärften Kontrollen derzeit noch nicht erfüllen, und kündigte an, bei Tests mit Regierungsbehörden und ausgewählten Organisationen für KI-Sicherheit zusammenzuarbeiten. Am 1. August hatte OpenAI Astra noch als „unser nächstes großes Modell“ beschrieben. Am 7. August war von „einem unserer kommenden Modelle“ die Rede.
Auch lesenswert: Bitcoin nähert sich an diesem Wochenende einem BIP-110-Fork – mit nur 2,59 % Miner-Unterstützung
Streit um die Mathe-Ergebnisse
Die Cyber-Warnung folgte auf die Mitteilung von OpenAI, dass eine interne Astra-Version 10 Resultate in Bereichen wie Quantenkomplexität, Gitterkryptografie, Codierungstheorie und extremaler Kombinatorik hervorgebracht habe. Laut OpenAI lösten oder verbesserten diese Arbeiten langjährige offene Probleme substanziell – bei Modellaufrufen im Gegenwert von rund 2.000 US-Dollar zu Sol-API-Tarifen.
Andrew Blumberg, Professor an der Columbia University und Vorstandsmitglied von First Proof, sagte gegenüber Mashable, die Ergebnisse seien beeindruckend, änderten aber seine Einschätzung der aktuellen KI-Fähigkeiten nicht. Viele Resultate seien knappe Gegenbeispiele oder „kleine, extrem raffinierte Konstruktionen“, die auf bestehender Forschung aufbauten. „Sie verändern meine Priors nicht“, so Blumberg.
Die Resultate unterstreichen dennoch, dass Spitzenmodelle sich als wertvolle Forschungspartner etablieren könnten – und zugleich ein Sicherheitsrisiko darstellen, wenn dieselben Programmierfähigkeiten auf Software-Exploits angewandt werden.
Genau diese Spannung prägt nun, wie OpenAI Zugänge und Einsatzszenarien bewertet.
Vor Astra hatte OpenAI GPT-5.6 Sol auf die Sicherheitsstufe „High“ statt „Critical“ eingestuft. Dieses Vorgängermodell konnte zwar bei der Aufdeckung und Ausnutzung von Schwachstellen unterstützen, doch laut OpenAI zeigte es keine verlässlich autonomen Angriffe auf gehärtete Ziele. Vor diesem Hintergrund gilt die neue Bewertung von Astra als deutliche Eskalation.
Weiterlesen: iPhone Fold: möglicher Veröffentlichungstermin 18. September – doch die Branche ist gespalten
