O ex-pesquisador de segurança da Google DeepMind Bilal Chughtai alertou que a inteligência artificial pode levar ao extermínio da humanidade, enquanto outro ex-membro do laboratório vê risco de danos graves já nos próximos cinco anos.
Principais pontos
- Chughtai deixou a DeepMind em julho e diz que uma superinteligência pode surgir nos próximos anos.
- Ele afirma que a pesquisa em alinhamento está ficando para trás em relação ao aumento de capacidade dos modelos e defende uma desaceleração coordenada, não a paralisação da IA.
- O também ex-pesquisador da DeepMind Josh Engels vê risco de danos imensos em até cinco anos; já nomes da Anthropic e da OpenAI apoiam pedidos para frear o ritmo de desenvolvimento.
O alerta de Chughtai sobre IA
Chughtai, ex-engenheiro de pesquisa focado em segurança e alinhamento de inteligência artificial geral, deixou a DeepMind em julho e publicou seu alerta nesta semana.
Segundo ele, laboratórios de IA podem construir sistemas superinteligentes em poucos anos, capazes de superar humanos em praticamente todas as áreas, ao mesmo tempo em que permanecem difíceis de alinhar com objetivos humanos.
Chughtai aponta o alinhamento como problema central e escreveu: “Acredito, com sinceridade, que a IA tem o potencial de nos matar a todos e que talvez estejamos ficando sem tempo para evitar esse desfecho.”
Para ele, os métodos atuais de treinar sistemas avançados para buscar de forma confiável objetivos humanos ainda são “extremamente rudimentares”, enquanto as capacidades de fronteira avançam muito mais rápido do que o entendimento dos pesquisadores sobre alinhamento. Ele não defende uma paralisação da pesquisa em IA, mas sim que empresas coordenem um freio na corrida competitiva e ofereçam mais transparência sobre como os sistemas de fronteira são construídos e testados.
Veja também: CLARITY Act enfrenta teste de 60 votos no Senado em meio a aumento da oposição
Pressão por segurança na Anthropic
O alerta de Chughtai vem na esteira da renúncia de Jacob Coxon no início do mês, após três anos atuando na Anthropic e na OpenAI. O líder de ciência de alinhamento da Anthropic, Evan Hubinger, afirmou depois acreditar haver mais de 10% de chance de a IA exterminar toda a humanidade dentro da próxima década.
Engels, que também integrou a equipe de segurança da DeepMind, disse em 12 de setembro que se juntou à organização de avaliação METR depois de recusar propostas da Anthropic e da OpenAI, citando uma “chance aterrorizante” de danos imensos causados por IA em até cinco anos.
O CEO da Anthropic, Dario Amodei, tem defendido que as empresas controlem o ritmo de aumento de capacidades, posição endossada pelo CEO da OpenAI, Sam Altman, enquanto o debate se espalha entre os principais laboratórios. O consenso ganha peso porque os alertas agora vêm tanto de pesquisadores de segurança que estão deixando os times quanto de executivos que lideram grandes laboratórios de IA.
Os atuais sinais de alarme marcam uma virada rápida em relação ao início de 2022, quando Chughtai começou a trabalhar com IA e descrevia os sistemas como muito menos capazes que os modelos de fronteira de hoje. Em cerca de quatro anos, o debate migrou de discussões teóricas de longo prazo para preocupações concretas sobre autonomia, alinhamento e sobre se a pesquisa em segurança consegue acompanhar o avanço das capacidades.
Leia a seguir: API da Bitget agora alcança ouro, Forex, índices e petróleo bruto
