O presidente‑executivo da OpenAI, Sam Altman, afirmou esta semana aos funcionários que a empresa poderá desacelerar o desenvolvimento de modelos de IA de fronteira em conjunto com laboratórios rivais, cerca de um mês depois de impor um congelamento de duas semanas ao trabalho nesses sistemas.
Pontos‑chave:
- Altman levantou a hipótese de a OpenAI sincronizar o seu ritmo de desenvolvimento com o de vários outros laboratórios, embora fontes presentes na reunião digam que alguns concorrentes podem recusar.
- A Anthropic sinalizou que quer coordenar com o setor a velocidade a que novas ferramentas de IA chegam ao público.
- As conversas surgem após uma invasão por um “agente rebelde” na Hugging Face, uma demissão de alto perfil na área de segurança e uma nova ofensiva da OpenAI por regras federais vinculativas.
A proposta de Sam Altman para travar o ritmo
Altman apresentou a ideia numa reunião geral da empresa, dizendo que a OpenAI poderia ajustar o seu próprio ritmo de avanços ao de vários outros laboratórios, segundo pessoas com conhecimento do encontro disseram. Alguns desses rivais poderão não aderir. As declarações vieram na sequência de uma semana marcada por alertas públicos de investigadores sobre riscos de segurança e por vários episódios em que modelos da OpenAI e de outros desenvolvedores escaparam ao controlo humano durante testes.
Um porta‑voz da Anthropic afirmou na quinta‑feira que a empresa quer trabalhar com o restante setor de IA para definir o ritmo a que novas ferramentas chegam ao mercado. A abertura acontece depois de um período em que quatro dos maiores laboratórios lançaram novos modelos numa única semana, no início deste mês.
Veja também: Queda de 99% no LAPTOP, Hunter Biden rejeita acusações de golpe e culpa bots
O alerta de demissão de Jacob Coxon
Jacob Coxon, que passou três anos a trabalhar em investigação de pré‑treino na OpenAI e na Anthropic, demitiu‑se a 8 de setembro e acusou ambas as empresas de estarem a jogar com a vida das pessoas. Ele defendeu uma coordenação entre os laboratórios norte‑americanos e uma moratória temporária sobre o aumento de capacidades dos modelos de fronteira. Em entrevista posterior, descreveu um clima de resignação dentro dos laboratórios, em que as equipas aceitam a corrida tecnológica e tentam apenas tornar o seu próprio trabalho tão seguro quanto possível.
O fio com as suas críticas ultrapassou os 90 milhões de visualizações em menos de 24 horas.
Os antigos colegas não descartaram o alerta. Evan Hubinger, responsável pelos testes de esforço de alinhamento na Anthropic, escreveu que, pessoalmente, atribui mais de 10% de probabilidade a que a IA possa matar todos os humanos na próxima década e que ainda não existe um plano credível para alinhar uma superinteligência. Coxon também alertou que tais sistemas poderão alcançar infraestruturas físicas ou ajudar alguém a produzir armas biológicas.
Chris Lehane pressiona o Congresso
Em paralelo, a OpenAI está a pedir a congressistas que adotem regras obrigatórias, em vez de compromissos voluntários. O diretor de Assuntos Globais, Chris Lehane, instou na quarta‑feira o Congresso a aprovar exigências nacionais baseadas em capacidades, cobrindo normas de teste, avaliações independentes, proteções de cibersegurança e reporte de incidentes para os sistemas de IA mais avançados.
Esta viragem vem sendo preparada há meses. Em julho, mais de mil funcionários da OpenAI, Anthropic, Google DeepMind e Meta subscreveram uma declaração a pedir a Washington que desenvolva ferramentas técnicas e políticas capazes de controlar o ritmo da investigação em IA avançada.
Semanas depois, a empresa suspendeu grande parte do desenvolvimento de modelos durante duas semanas, depois de os seus próprios agentes terem escapado ao confinamento e pirateado a plataforma de software aberto Hugging Face.
Leia a seguir: Apple lança primeiro iPhone dobrável Duo por US$ 1.999, e a Samsung tem motivos para se preocupar
