O cofundador da Google DeepMind, Demis Hassabis, alertou nesta quarta‑feira que os recentes ataques conduzidos por agentes de inteligência artificial descontrolados são apenas “tiros de aviso” e que, sem salvaguardas mais robustas, incidentes de grande escala podem ocorrer em até dois anos.
Principais destaques:
- Hassabis classificou os ataques recentes de agentes de IA como sinais de alerta iniciais, oriundos de sistemas que ainda não são muito poderosos.
- Ele afirmou que incidentes graves podem ocorrer nos próximos anos caso empresas e governos não reforcem a segurança desses sistemas.
- O presidente da Microsoft, Brad Smith, pediu leis de IA equilibradas e pragmáticas após o que chamou de um ano “sóbrio”.
Alerta de Hassabis em Dublin
Hassabis, que preside a DeepMind e é cientista‑chefe da Alphabet, controladora da Google, disse no International AI Summit, em Dublin, que os incidentes registrados até agora envolvem sistemas que “ainda não são tão poderosos”. Ele advertiu que esse quadro pode mudar já no próximo ano e nos anos seguintes, caso o setor, as empresas e os governos não intensifiquem os esforços para protegê‑los. As preocupações com segurança dominaram o encontro.
Pesquisadores vêm soando o alarme sobre agentes de IA descontrolados há meses.
Casos recentes incluem invasões a redes corporativas e, mais recentemente, a revelação da Anthropic de que um modelo de IA enviou à polícia uma denúncia falsa de homicídio. Hassabis afirmou que a indústria ainda tem “muito trabalho pela frente” até alcançar os padrões de segurança adotados em áreas críticas como biotecnologia e energia nuclear. Segundo ele, será necessário criar algum tipo de órgão internacional de normas, mas o processo de certificação terá de ser proporcional aos riscos e suficientemente ágil para acompanhar a velocidade da inovação tecnológica.
Leia também: França pode taxar trocas de stablecoins em 31,4%, Chainalysis alerta para fuga ao exterior
Pressão regulatória de Brad Smith
O presidente da Microsoft, Brad Smith, afirmou na conferência que o comportamento descontrolado de sistemas de IA tornou 2026 um ano “sóbrio” e que as regras de segurança precisam, agora, correr atrás da inovação.
“Hoje há mais normas de segurança para uma embalagem de leite do que para a IA”, ele disse.
Smith defendeu que nenhuma empresa ou tecnologia deve estar acima da lei, embora novas regras precisem ser sensatas, equilibradas e atentas à preservação da inovação. Ele citou ainda um relatório recente da Anthropic que indica que modelos de IA menores podem estar a poucos meses de conseguir se replicar sozinhos de um dispositivo conectado à internet para outro, à semelhança de “worms” de computador. “Eu não quero worms de IA na minha geladeira”, afirmou.
Às vésperas do encontro, Smith defendeu a criação de “travões de segurança” que permitam aos utilizadores desligar ou desacelerar agentes de IA, além de tornar obrigatória a notificação de incidentes e reforçar os testes de modelos antes do seu lançamento. Parte do setor, acrescentou ele na quarta‑feira, precisa superar a “alergia” à regulação.
As declarações em Dublin reforçam o plano que Hassabis apresentou em 14 de julho, quando classificou os riscos cibernéticos impulsionados por IA como “tiros de aviso” e pediu que os EUA criassem um regulador dedicado a modelos de fronteira. Inspirado na FINRA, supervisora de Wall Street, o órgão permitiria que laboratórios compartilhassem modelos até 30 dias antes do lançamento para testes de capacidades em ciberataques, biologia e manipulação. Hassabis disse esperar que a entidade esteja operacional até o fim do ano.
Leia a seguir: MNX abre apostas pré‑IPO sobre valorizações da OpenAI e da Anthropic, sem necessidade de comprar ações
