Demis Hassabis, cofundador da Google DeepMind, alertou nesta quarta-feira que os ataques recentes envolvendo agentes de IA descontrolados são apenas “tiros de aviso” — e que incidentes de grande porte podem ocorrer em até dois anos se não houver reforço significativo das salvaguardas.
Principais pontos:
- Demis Hassabis classificou os ataques recentes de agentes de IA como sinais de alerta iniciais, vindos de sistemas que ainda não são muito poderosos.
- Ele afirmou que incidentes graves podem ocorrer nos próximos anos se empresas e governos não fortalecerem a segurança desses sistemas.
- O presidente da Microsoft, Brad Smith, defendeu leis equilibradas para IA após o que chamou de um ano “sobrio”.
Alerta de Hassabis em Dublin
Hassabis, que preside a DeepMind e atua como cientista-chefe da Alphabet, controladora do Google, disse no International AI Summit, em Dublin, que os incidentes recentes partiram de sistemas que “ainda não são tão poderosos assim”. Ele advertiu que esse quadro pode mudar já no ano que vem e nos anos seguintes se o setor, as empresas e os governos não fizerem mais para proteger essas tecnologias. Preocupações com segurança dominaram o encontro.
Pesquisadores vêm soando o alarme sobre agentes de IA fora de controle há meses.
Casos recentes incluem invasões a redes corporativas e, mais recentemente, a revelação da Anthropic de que um modelo de IA enviou à polícia uma denúncia falsa de homicídio. Hassabis afirmou que a indústria ainda tem “muito trabalho pela frente” até alcançar o nível de práticas de segurança adotado em áreas como biotecnologia e setor nuclear para sistemas críticos. Segundo ele, será necessária, em algum momento, a criação de um organismo internacional de padronização, mas o processo de certificação precisa ser proporcional ao risco e capaz de se adaptar com rapidez à evolução tecnológica.
Leia também: França pode taxar trocas de stablecoins em 31,4%, Chainalysis alerta para fuga offshore
Pressão regulatória de Brad Smith
O presidente da Microsoft, Brad Smith, afirmou na conferência que o comportamento imprevisível de agentes de IA tornou 2026 um ano “sobrio” e que as regras de segurança precisam agora acompanhar o ritmo da inovação.
“Hoje existem mais regras de segurança para uma caixa de leite do que para IA”, ele afirmou.
Nenhuma empresa ou tecnologia deveria estar acima da lei, argumentou Smith, ressaltando que novas normas precisam ser sensatas, equilibradas e atentas ao impacto sobre a inovação. Ele citou ainda um relatório recente da Anthropic sugerindo que modelos menores de IA podem estar a poucos meses de conseguir se copiar autonomamente de um dispositivo conectado à internet para outro, à semelhança de “worms” de computador. “Eu não quero worms de IA na minha geladeira”, disse.
Às vésperas da cúpula, ele defendeu a criação de “freios de segurança” que permitam aos usuários desligar ou desacelerar agentes de IA, além de tornar obrigatória a notificação de incidentes e reforçar os testes dos modelos antes de seu lançamento. Parte do setor, acrescentou, precisa superar sua “alergia” à regulação.
As declarações em Dublin reforçam um plano que Hassabis já havia apresentado em 14 de julho, quando descreveu os riscos cibernéticos impulsionados por IA como “tiros de aviso” e pediu que os Estados Unidos criassem um órgão de supervisão para modelos de fronteira. Inspirado na reguladora de Wall Street FINRA, o organismo permitiria que os laboratórios compartilhassem seus modelos até 30 dias antes do lançamento, para testes de capacidades em cibersegurança, biologia e técnicas de manipulação. Ele disse esperar ver essa estrutura operando até o fim do ano.
Leia a seguir: MNX abre apostas pré-IPO sobre avaliações da OpenAI e Anthropic, sem necessidade de ações
