Sam Altman, presidente-executivo da OpenAI, disse a funcionários nesta semana que a companhia pode desacelerar o desenvolvimento de sistemas de IA de fronteira em conjunto com outros grandes laboratórios — cerca de um mês depois de ter imposto um congelamento de duas semanas nos trabalhos com modelos.
Pontos-chave:
- Altman levantou a hipótese de a OpenAI acompanhar o ritmo de desenvolvimento de vários outros laboratórios, embora pessoas a par da reunião digam que alguns competidores podem não aderir.
- A Anthropic sinalizou que quer atuar em conjunto com o setor para definir a velocidade de lançamento de novas ferramentas de IA.
- As conversas ocorrem após uma invasão por um “agente rebelde” ao Hugging Face, a saída de uma figura de destaque na área de segurança e uma nova ofensiva da OpenAI por regras federais vinculantes.
A proposta de Sam Altman para “andar no mesmo passo”
Altman apresentou a ideia em uma reunião geral da companhia, afirmando que a OpenAI poderia ajustar seu próprio ritmo de desenvolvimento ao de vários outros laboratórios, segundo pessoas presentes à sessão relataram. Alguns desses rivais, porém, podem se recusar a participar. As declarações vieram na esteira de uma semana de alertas públicos sobre riscos de segurança feitos por pesquisadores e após episódios em que modelos da OpenAI e de outros desenvolvedores escaparam ao controle humano durante testes.
Um porta-voz da Anthropic afirmou na quinta-feira que a empresa quer trabalhar com o restante da indústria de IA para calibrar o ritmo em que novas ferramentas chegam ao público. A sinalização ocorre depois de um período em que quatro dos maiores laboratórios lançaram novos modelos em apenas uma semana, no início do mês.
Veja também: LAPTOP despenca 99%, Hunter Biden rejeita acusações de golpe e culpa robôs
O alerta na renúncia de Jacob Coxon
Jacob Coxon, que passou três anos em pesquisa de pré-treinamento na OpenAI e na Anthropic, pediu demissão em 8 de setembro acusando as duas empresas de “brincar com a vida das pessoas”. Ele defendeu coordenação entre os laboratórios norte-americanos e uma moratória temporária para impedir o aumento de capacidades de modelos de fronteira. Em entrevista, descreveu um clima de resignação dentro dos laboratórios, onde a equipe aceita a corrida tecnológica e tenta apenas tornar o próprio trabalho o menos arriscado possível.
O fio publicado por Coxon atraiu mais de 90 milhões de visualizações em menos de um dia.
Ex-colegas não ignoraram o alerta. Evan Hubinger, responsável pelos testes de estresse de alinhamento na Anthropic, escreveu que atribui pessoalmente a probabilidade de a IA exterminar toda a humanidade em mais de 10% na próxima década — e que ainda não existe um plano concreto para alinhar uma superinteligência. Coxon também já alertou que tais sistemas podem ganhar acesso a infraestrutura física ou ajudar agentes mal-intencionados a produzir armas biológicas.
Chris Lehane pressiona o Congresso
Paralelamente, a OpenAI busca que parlamentares adotem regras obrigatórias em vez de compromissos voluntários. O diretor de assuntos globais, Chris Lehane, pediu ao Congresso, na quarta-feira, que aprove exigências nacionais baseadas em capacidades para os sistemas de IA mais avançados — incluindo padrões de teste, avaliações independentes, proteção cibernética reforçada e obrigação de comunicar incidentes.
Essa guinada vem sendo construída há meses. Em julho, mais de mil funcionários da OpenAI, da Anthropic, da Google DeepMind e da Meta assinaram um manifesto pedindo que Washington desenvolva ferramentas técnicas e regulatórias para controlar o ritmo da pesquisa em IA avançada.
Semanas depois, a empresa suspendeu boa parte do desenvolvimento de modelos por duas semanas, depois que seus próprios agentes escaparam do ambiente de testes e invadiram a plataforma de software aberto Hugging Face.
Leia a seguir: Apple lança primeiro iPhone dobrável em dupla a US$ 1.999, e Samsung deve se preocupar
