Demis Hassabis, cofundador do Google DeepMind, alertou nesta quarta-feira que os ataques recentes conduzidos por agentes de IA fora de controle são apenas “tiros de aviso” — e que incidentes de grande porte podem ocorrer em até dois anos, caso não sejam implementadas proteções mais robustas.
Principais pontos:
- Demis Hassabis classificou os ataques recentes de agentes de IA como tiros de aviso partindo de sistemas que ainda não são muito poderosos.
- Segundo ele, incidentes graves podem ocorrer nos próximos dois anos se empresas e governos não blindarem melhor esses sistemas.
- O presidente da Microsoft, Brad Smith, pediu leis de IA sensatas e equilibradas após um ano que ele descreveu como “preocupante”.
Alerta de Hassabis em Dublin
Hassabis, que preside o DeepMind e atua como cientista-chefe da controladora do Google, a Alphabet, disse no International AI Summit em Dublin que os incidentes partiram de sistemas que “ainda não são tão poderosos assim”. Ele advertiu que esse quadro pode mudar já no ano que vem e ao longo dos próximos anos, caso o setor, as empresas e os governos não façam mais para protegê-los. As preocupações com segurança dominaram o encontro.
Pesquisadores vêm soando o alarme sobre agentes de IA desonestos há meses.
Casos recentes incluem invasões a redes corporativas e, mais recentemente, a revelação da Anthropic de que um modelo de IA enviou à polícia uma falsa denúncia de homicídio. Hassabis afirmou que o setor ainda tem “muito trabalho pela frente” até alcançar os padrões de segurança empregados em biotecnologia e no setor nuclear para sistemas críticos. Segundo ele, será necessário algum tipo de órgão internacional de padronização, mas seus processos de certificação precisam ser proporcionais ao risco e se adaptar rapidamente à evolução da tecnologia.
Leia também: França pode taxar swaps de stablecoins em 31,4%, e Chainalysis alerta para êxodo offshore
Pressão regulatória de Brad Smith
O presidente da Microsoft, Brad Smith, afirmou na conferência que o comportamento fora de controle de alguns sistemas de IA tornou 2026 um “ano preocupante” e que as regras de segurança precisam agora alcançar o ritmo da inovação.
“Existem mais regras de segurança para uma caixa de leite do que para a IA”, ele disse.
Nenhuma empresa ou tecnologia deveria estar acima da lei, argumentou Smith, mas novas regras precisam ser sensatas, equilibradas e atentas à inovação. Ele também citou um relatório recente da Anthropic sugerindo que pequenos modelos de IA podem estar a poucos meses de conseguir se copiar de um dispositivo conectado à internet para outro, de forma semelhante a worms de computador. “Eu não quero worms de IA na minha geladeira”, disse.
Na véspera da cúpula, ele defendeu a criação de “freios de segurança” que permitam aos usuários desligar ou desacelerar agentes de IA, além de tornar obrigatória a notificação de incidentes e reforçar os testes de modelos antes do lançamento. Alguns atores do setor, acrescentou ele na quarta-feira, precisam superar sua “alergia” à regulação.
As declarações em Dublin reforçam um plano que Hassabis já havia apresentado em 14 de julho, quando classificou riscos cibernéticos movidos a IA como “tiros de aviso” e pediu que os EUA criassem um órgão de supervisão para modelos de fronteira. Inspirado no regulador de Wall Street FINRA, o órgão permitiria que laboratórios compartilhassem modelos até 30 dias antes do lançamento, para testes de capacidades em cibersegurança, biologia e técnicas de engano. Ele disse esperar que a estrutura esteja em funcionamento antes do fim do ano.
Próximo assunto: MNX abre apostas pré-IPO sobre avaliações de OpenAI e Anthropic, sem necessidade de ações
