OpenAI heeft eind juli zijn Preparedness-team ontbonden. Daarmee verdwijnt in nog geen twee jaar tijd al het derde gespecialiseerde veiligheidsteam bij het bedrijf.
Belangrijkste punten:
- OpenAI sloot zijn Preparedness-team eind juli en verdeelde het werk rond bio- en cyberrisico’s over bestaande teams.
- De ingreep volgt op een golf van vertrek onder senior medewerkers in veiligheid en ethiek, terwijl het bedrijf toewerkt naar een beursnotering.
- Volgens OpenAI blijven het Preparedness Framework en de Safety Advisory Group intact, met dezelfde risicocategorieën.
Preparedness-team opgeheven vlak voor mogelijke IPO
De Financial Times meldde de ingreep als eerste, op basis van bronnen rond het bedrijf. De eenheid beoordeelde in hoeverre zogeheten frontier-modellen ernstige of zelfs catastrofale schade konden aanrichten, en onderzocht vervolgens hoe die risico’s konden worden beperkt.
Na de herstructurering knipte OpenAI dat mandaat op in domeinen en schoof het werk rond biologie en cyberveiligheid door naar senior medewerkers verspreid over bestaande teams.
Wat verdween, is de formele rapportagelijn – niet het geschreven draaiboek voor hoe het bedrijf gevaarlijke modelcapaciteiten moet opschalen en beoordelen. Het Preparedness Framework blijft biochemische dreigingen, cybercapaciteiten en zichzelf verbeterende modellen afdekken, onder toezicht van een interne Safety Advisory Group.
Ook interessant: Bitcoin loopt groter verkooprisico na 90 dagen zwakke vraag uit de VS
Vertrek van veiligheidstop vergroot druk op OpenAI
De reorganisatie valt samen met een ongewoon hoge uitstroom in de top van de veiligheids- en ethiekafdeling. Hoofd veiligheidssystemen Johannes Heidecke, ethiekverantwoordelijke Chloé Bakalar en chief futurist Joshua Achiam vertrokken binnen enkele weken na elkaar. De groep van Heidecke werd ondergebracht bij een onderzoeksorganisatie onder leiding van Mia Glaese, vicepresident met de portefeuille research en safety.
Medeoprichter Greg Brockman stelt dat het inbedden van veiligheid in de modelontwikkeling en productteams juist tot betere resultaten leidt dan één geïsoleerde veiligheidsunit. Topmanagers benadrukken bovendien dat ze risicocontroles eerder in het trainingsproces willen uitvoeren, dichter bij de engineers die de systemen bouwen.
Critici leggen dezelfde feiten anders uit. Zij wijzen erop dat er intern nu niemand meer is die uitsluitend en structureel eigenaar is van de risico-agenda, los van lanceerdata en commerciële druk. Jan Leike, die in 2024 overstapte naar rivaal Anthropic, zei eerder dat veiligheid bij OpenAI het moest afleggen tegen “glimmende producten”.
Scandinaro kwam in februari over van Anthropic
Met deze stap draait OpenAI een koers terug die het pas een halfjaar eerder had ingezet. De gevolgen daarvan spelen zich nu af in een onderneming die zich voorbereidt op een van de grootste techbeursgangen van de afgelopen jaren.
OpenAI haalde Dylan Scandinaro in februari weg bij Anthropic om het Preparedness-team te leiden; Sam Altman noemde hem destijds de beste kandidaat voor die rol. Scandinaro waarschuwde toen voor “risico’s op extreme en zelfs onherstelbare schade”. Hij richt zich nu op systemen die zichzelf recursief kunnen verbeteren, maar het team dat hij moest uitbouwen is inmiddels opgeheven.
Lees verder: CZ verplaatst 965.000 dollar naar Giggle Academy terwijl Binance-oprichter zich op onderwijs richt
