OpenAI hat Ende Juli sein Preparedness-Team aufgelöst – bereits die dritte eigenständige Sicherheitseinheit, die das Unternehmen innerhalb von rund zwei Jahren einstellt.
Wichtigste Punkte:
- OpenAI hat das Preparedness-Team Ende Juli geschlossen und Arbeiten zu Bio- und Cyberrisiken auf bestehende Gruppen verteilt.
- Der Schritt folgt auf eine Welle von Abgängen in den Bereichen Sicherheit und Ethik, während das Unternehmen auf einen Börsengang zusteuert.
- Laut OpenAI bleiben das Preparedness Framework und die Safety Advisory Group mit unveränderten Risikokategorien bestehen.
OpenAI löst Preparedness-Team kurz vor IPO auf
Die Financial Times hat die Umstrukturierung zuerst berichtet und beruft sich dabei auf mehrere mit der Angelegenheit vertraute Personen. Die Einheit bewertete, inwieweit Spitzenmodelle schweren oder sogar katastrophalen Schaden anrichten könnten, und erarbeitete Maßnahmen zur Begrenzung dieser Risiken.
Nach der Neuaufstellung schnitt OpenAI dieses Mandat thematisch zu und übergab Biologie- und Cybersicherheitsfragen an leitende Mitarbeiter, die in verschiedenen bestehenden Teams angesiedelt sind.
Verschwunden ist damit primär die Berichtslinie, nicht jedoch das Regelwerk, das festlegt, wie das Unternehmen bei gefährlichen Modellfähigkeiten eskaliert. Das Preparedness Framework deckt weiterhin biochemische Bedrohungen, Cyberfähigkeiten und sich selbst verbessernde Modelle ab und unterliegt der Aufsicht einer internen Safety Advisory Group.
Auch interessant: Bitcoin steht nach 90 Tagen schwacher US-Nachfrage vor erhöhtem Abverkaufsrisiko
Abgänge im Sicherheitsbereich verschärfen Blick auf OpenAI
Die Reorganisation fällt in eine Phase ungewöhnlich vieler Abgänge im Top-Management. Der Leiter der Sicherheitssysteme Johannes Heidecke, Ethik-Chefin Chloé Bakalar und Cheffuturist Joshua Achiam haben das Unternehmen alle innerhalb weniger Wochen verlassen. Heideckes Bereich wurde in eine Forschungsorganisation integriert, die von Mia Glaese geleitet wird, einer Vizepräsidentin mit Verantwortung für Forschung und Sicherheit.
Mitgründer Greg Brockman argumentiert, dass Sicherheitsfragen stärker werden, wenn sie direkt in Modellentwicklung und Produktteams eingebettet sind, statt in einer isolierten Stabsstelle zu verbleiben. Das Management betont zudem, man wolle Risikoprüfungen früher im Trainingsprozess verankern – näher an den Ingenieuren, die die Systeme tatsächlich bauen.
Kritiker sehen dieselben Fakten anders. Sie verweisen darauf, dass intern nun niemand mehr exklusiv und unabhängig vom Veröffentlichungstakt und dessen kommerziellem Druck für Risiken verantwortlich ist. Jan Leike, der 2024 zu Wettbewerber Anthropic wechselte, hatte zuvor bemängelt, dass Sicherheit bei OpenAI hinter „glänzende Produkte“ zurückgefallen sei.
Scandinaro kam im Februar von Anthropic
Mit dem Schritt macht OpenAI eine Wette von vor gerade einmal sechs Monaten teilweise rückgängig. Die Auswirkungen treffen ein Unternehmen, das sich auf einen der größten Tech-Börsengänge der vergangenen Jahre vorbereitet.
OpenAI holte im Februar Dylan Scandinaro von Anthropic, um das Preparedness-Team zu führen; Sam Altman hatte ihn damals als besten Kandidaten für die Rolle bezeichnet. Scandinaro warnte seinerzeit vor „Risiken extremen und sogar irreversiblen Schadens“. Heute konzentriert er sich auf rekursiv sich selbst verbessernde Systeme, doch das Team, das er eigentlich aufbauen sollte, existiert nicht mehr.
Als Nächstes lesen: CZ überweist 965.000 US-Dollar an Giggle Academy, während der Binance-Gründer seinen Fokus auf Bildung verlagert
