O ex-pesquisador de segurança da Google DeepMind Bilal Chughtai alertou que a IA pode levar à extinção da humanidade, enquanto outro ex-membro de laboratório vê risco de danos graves já nos próximos cinco anos.
Principais pontos:
- Chughtai deixou a DeepMind em julho e afirma que uma superinteligência pode surgir nos próximos anos.
- Ele diz que a pesquisa de alinhamento está atrás do avanço de capacidades e defende uma desaceleração coordenada, não uma paralisação do desenvolvimento.
- O ex-pesquisador da DeepMind Josh Engels enxerga risco de dano massivo em até cinco anos; figuras da Anthropic e da OpenAI defendem ritmo mais cauteloso.
Alerta de Chughtai sobre IA
Chughtai, ex-engenheiro de pesquisa focado em segurança e alinhamento de inteligência artificial geral, deixou a DeepMind em julho e publicou seu alerta nesta semana.
Segundo ele, os laboratórios de IA podem construir sistemas superinteligentes já nos próximos anos, potencialmente superando os humanos em praticamente todas as áreas, mas ainda assim difíceis de alinhar com objetivos humanos.
Chughtai aponta o alinhamento como o problema central, escrevendo: “Acredito, com sinceridade, que a IA tem o potencial de nos matar a todos e que talvez estejamos ficando sem tempo para evitar esse desfecho.”
Ele afirma que os métodos atuais para treinar sistemas avançados a perseguirem de forma confiável objetivos humanos continuam “extremamente rudimentares”, enquanto as capacidades de fronteira avançam muito mais rápido do que o entendimento dos pesquisadores sobre alinhamento. Chughtai não defende o fim do desenvolvimento de IA. Em vez disso, quer que as empresas coordenem esforços, reduzam a corrida competitiva e ofereçam muito mais transparência sobre como os sistemas de fronteira são desenvolvidos e testados.
Veja também: Lei CLARITY enfrenta prova de 60 votos no Senado em meio a aumento da oposição
Pressão por segurança na Anthropic
O alerta de Chughtai veio após a demissão de Jacob Coxon no início deste mês, depois de três anos somando passagens pela Anthropic e pela OpenAI. O líder de ciência de alinhamento da Anthropic, Evan Hubinger, afirmou em seguida acreditar haver mais de 10% de probabilidade de a IA matar todos os humanos na próxima década.
Engels, que também atuou na equipe de segurança da DeepMind, disse em 12 de setembro que se juntou à organização de avaliação METR após recusar propostas da Anthropic e da OpenAI, citando uma “chance assustadora” de danos imensos causados pela IA dentro de cinco anos.
O CEO da Anthropic, Dario Amodei, tem defendido que as empresas moderem o ritmo de ganho de capacidades, posição também apoiada pelo CEO da OpenAI, Sam Altman, à medida que o debate se intensifica entre os principais laboratórios. Esse alinhamento é relevante porque os alertas agora vêm tanto de pesquisadores de segurança que deixam os cargos quanto de executivos à frente das maiores empresas de IA.
Os atuais sinais de alarme marcam uma mudança rápida em relação ao início de 2022, quando Chughtai começou a trabalhar com IA e descrevia os sistemas como muito menos capazes que os modelos de fronteira de hoje. Em cerca de quatro anos, o debate migrou da teoria de segurança de longo prazo para preocupações concretas com autonomia, alinhamento e a possibilidade de a pesquisa de segurança não acompanhar o avanço das capacidades.
Leia a seguir: API da Bitget agora alcança ouro, forex, índices e petróleo bruto
