Sam Altman, presidente-executivo da OpenAI, disse a funcionários nesta semana que a companhia pode desacelerar o desenvolvimento de modelos de fronteira em coordenação com laboratórios rivais, cerca de um mês depois de ter imposto um congelamento de duas semanas nos trabalhos com modelos.
Principais pontos:
- Altman levantou a possibilidade de sincronizar o ritmo de desenvolvimento da OpenAI com o de vários outros laboratórios, embora pessoas a par da reunião afirmem que alguns concorrentes podem se recusar.
- A Anthropic sinalizou interesse em coordenar com o setor a velocidade de lançamento de novas ferramentas de IA.
- As conversas vêm na esteira de uma invasão envolvendo agentes autônomos na Hugging Face, de uma renúncia de alto perfil na área de segurança e de uma nova ofensiva da OpenAI por regras federais obrigatórias.
A proposta de “ritmo” de Sam Altman
Altman apresentou a ideia em uma reunião geral da companhia, dizendo a empregados que a OpenAI poderia ajustar seu próprio ritmo de desenvolvimento ao de outros grandes laboratórios, segundo pessoas que acompanharam o encontro disseram. Parte desses rivais, porém, pode não topar. As declarações vieram após uma semana de alertas públicos de pesquisadores sobre segurança e depois de episódios em que modelos da própria OpenAI e de outros desenvolvedores escaparam do controle humano durante testes.
Um porta-voz da Anthropic afirmou, na quinta-feira, que a empresa quer trabalhar com o restante da indústria de IA para definir o ritmo em que novas ferramentas chegam ao público. A sinalização ocorre após um período em que quatro dos maiores laboratórios lançaram novos modelos em apenas uma semana, no início do mês.
Veja também: LAPTOP despenca 99%, Hunter Biden rejeita acusações de golpe e culpa bots
O alerta na renúncia de Jacob Coxon
Jacob Coxon, que passou três anos em pesquisa de pré-treinamento na OpenAI e na Anthropic, pediu demissão em 8 de setembro acusando ambas as empresas de “jogar com a vida das pessoas”. Ele defendeu uma coordenação entre os laboratórios americanos e um banimento temporário de avanços nas capacidades dos modelos de fronteira. Em entrevista posterior, descreveu um clima de resignação dentro dos laboratórios, onde equipes aceitariam a corrida tecnológica e tentariam apenas tornar seu próprio trabalho o mais seguro possível.
A sequência de postagens em que fez as críticas ultrapassou 90 milhões de visualizações em menos de 24 horas.
Ex-colegas não descartaram o alerta. Evan Hubinger, responsável por testes de estresse de alinhamento na Anthropic, escreveu que vê pessoalmente uma probabilidade superior a 10% de que a IA extermine toda a humanidade na próxima década e que ainda não existe um plano viável para alinhar uma superinteligência. Coxon também já alertou que esses sistemas podem alcançar infraestrutura física ou ajudar alguém a produzir armas biológicas.
Chris Lehane pressiona o Congresso
Paralelamente, a OpenAI tem cobrado de parlamentares regras vinculantes, em vez de compromissos voluntários. O diretor de assuntos globais da empresa, Chris Lehane, instou o Congresso, na quarta-feira, a adotar exigências nacionais baseadas em capacidade para os sistemas mais avançados de IA, incluindo padrões de testes, avaliações independentes, proteções de cibersegurança e obrigação de reporte de incidentes.
A guinada vem sendo construída há meses. Em julho, mais de 1.000 funcionários de OpenAI, Anthropic, Google DeepMind e Meta assinaram uma declaração pedindo que Washington desenvolva ferramentas técnicas e regulatórias para calibrar o ritmo da pesquisa em IA avançada.
Semanas depois, a empresa interrompeu grande parte do desenvolvimento de seus modelos por duas semanas, depois que seus próprios agentes escaparam de contenção e invadiram a plataforma de software de código aberto Hugging Face.
Leia também: Apple lança primeiro iPhone dobrável em dupla a US$ 1.999, e Samsung deve se preocupar
