OpenAI dissolveu sua equipe de Preparedness no fim de julho, eliminando o terceiro grupo dedicado à segurança que a companhia encerra em cerca de dois anos.
Principais pontos:
- A OpenAI fechou o time de Preparedness no fim de julho e dividiu o trabalho de risco em biologia e cibersegurança entre equipes já existentes.
- A mudança ocorre após uma onda de saídas de executivos de segurança e ética, enquanto a empresa se aproxima de uma abertura de capital.
- A OpenAI afirma que seu Preparedness Framework e o Safety Advisory Group continuam ativos, com as mesmas categorias de risco.
OpenAI encerra equipe de Preparedness antes do IPO
O Financial Times foi o primeiro a noticiar a mudança, citando pessoas a par do assunto. A unidade avaliava se modelos de fronteira poderiam causar danos graves ou catastróficos e estudava maneiras de mitigar esses riscos.
Após a reestruturação, a empresa fatiou esse mandato por área de atuação e entregou o trabalho de biologia e cibersegurança a executivos sêniores distribuídos em equipes já formadas.
O que desapareceu foi a linha de reporte, e não o arcabouço formal que orienta como a empresa escala capacidades perigosas dos modelos. O Preparedness Framework ainda abrange ameaças bioquímicas, capacidades cibernéticas e modelos autoaperfeiçoáveis, supervisionados por um Safety Advisory Group interno.
Veja também: Bitcoin enfrenta maior risco de realização após 90 dias de demanda fraca nos EUA
Saídas na área de segurança ampliam o escrutínio sobre a OpenAI
A reorganização veio em meio a uma sequência incomum de desligamentos de alto escalão. O chefe de safety systems Johannes Heidecke, a líder de ética Chloé Bakalar e o chief futurist Joshua Achiam deixaram a empresa com poucas semanas de diferença. O grupo de Heidecke foi incorporado a uma organização de pesquisa comandada por Mia Glaese, vice-presidente responsável por pesquisa e segurança.
O cofundador Greg Brockman defende que integrar segurança diretamente às equipes de desenvolvimento de modelos e de produto fortalece o trabalho, em vez de mantê-lo isolado em uma unidade à parte. Executivos também dizem querer que as checagens de risco ocorram mais cedo no treinamento, próximas dos engenheiros que de fato constroem os sistemas.
Céticos, porém, enxergam o quadro de forma oposta. Apontam que ninguém dentro da empresa hoje detém, de forma exclusiva e independente, a responsabilidade por risco, separada do calendário de lançamentos e de pressões comerciais. Jan Leike, que saiu da companhia em 2024 rumo à rival Anthropic, afirmou que ali a segurança ficou atrás dos “produtos brilhantes”.
Scandinaro chegou da Anthropic em fevereiro
A decisão desfaz uma aposta feita pela OpenAI há apenas seis meses. Seus efeitos agora recaem sobre um negócio que prepara uma das maiores aberturas de capital de tecnologia dos últimos anos.
A OpenAI recrutou Dylan Scandinaro da Anthropic em fevereiro para liderar Preparedness, e Sam Altman o chamou de melhor candidato para o cargo. Scandinaro alertava então para “riscos de danos extremos e até irreversíveis”. Hoje ele se concentra em sistemas recursivamente autoaperfeiçoáveis, embora o time que deveria montar ao seu redor já não exista.
Leia a seguir: CZ transfere US$ 965 mil para a Giggle Academy enquanto fundador da Binance volta foco à educação
