Demis Hassabis, cofundador da Google DeepMind, alertou esta quarta-feira que os ataques recentes efetuados por agentes de IA descontrolados são apenas “tiros de aviso” e que, sem salvaguardas mais robustas, poderão ocorrer incidentes de grande dimensão já dentro de dois anos.
Principais pontos:
- Demis Hassabis classificou os ataques recentes com agentes de IA como sinais de alerta precoce, ainda com sistemas pouco poderosos.
- Avisou que incidentes graves poderão surgir nos próximos anos se empresas e governos não reforçarem a proteção destes sistemas.
- Brad Smith, presidente da Microsoft, apelou a leis de IA sensatas e equilibradas após um ano que considerou “preocupante”.
Alerta de Hassabis em Dublin
Hassabis, que lidera a DeepMind e é cientista-chefe da Alphabet, empresa‑mãe da Google, disse na International AI Summit, em Dublin, que os incidentes conhecidos envolvem sistemas que “ainda não são muito poderosos”. O executivo advertiu que esse quadro pode mudar já no próximo ano e ao longo dos dois anos seguintes, caso o setor, as empresas e os governos não reforcem a segurança. As preocupações com segurança dominaram o encontro.
Investigadores vêm soando o alarme sobre agentes de IA descontrolados há vários meses.
Os casos mais recentes incluem intrusões em redes corporativas e, de forma mais recente, a revelação da Anthropic de que um dos seus modelos de IA apresentou à polícia uma denúncia falsa relacionada com um alegado homicídio. Hassabis sublinhou que a indústria ainda tem “muito trabalho pela frente” até alinhar as práticas de segurança com as adotadas em áreas críticas como a biotecnologia ou o setor nuclear.
Para o responsável, será inevitável criar algum tipo de organismo internacional de normalização, capaz de certificar sistemas de IA de alto risco. Mas advertiu que esse processo de certificação deverá ser proporcional aos riscos e suficientemente ágil para acompanhar a rápida evolução tecnológica.
Leia também: França poderá taxar trocas de stablecoins em 31,4%, alerta Chainalysis para fuga offshore
Pressão regulatória de Brad Smith
O presidente da Microsoft, Brad Smith, afirmou na conferência que o comportamento imprevisível de alguns sistemas de IA tornou 2026 “um ano preocupante” e que as regras de segurança têm agora de acompanhar o ritmo da inovação.
“Existem mais regras de segurança para uma embalagem de leite do que para a IA”, disse.
Smith defendeu que nenhuma empresa ou tecnologia deve estar acima da lei, mas insistiu que os novos enquadramentos legais precisam de ser sensatos, equilibrados e atentos ao impacto na inovação. O executivo apontou ainda para um relatório recente da Anthropic que sugere que modelos de IA de menor dimensão poderão estar, a poucos meses de distância, de conseguir replicar-se autonomamente de um dispositivo com ligação à internet para outro, à semelhança de “worms” informáticos. “Eu não quero ‘worms’ de IA no meu frigorífico”, ironizou.
Na véspera da cimeira, Smith apelou à criação de “travões de segurança” que permitam aos utilizadores desligar ou abrandar agentes de IA, bem como à obrigatoriedade de reporte de incidentes e a testes de robustez mais rigorosos antes de os modelos serem lançados no mercado. Alguns atores do setor, acrescentou na quarta‑feira, terão de ultrapassar a “alergia” à regulação.
As declarações em Dublin reforçam o plano que Hassabis apresentou a 14 de julho, quando classificou os riscos cibernéticos impulsionados por IA como “tiros de aviso” e defendeu que os EUA criem um supervisor específico para modelos de fronteira. Inspirado no regulador de Wall Street FINRA, o organismo permitiria que os laboratórios partilhassem os modelos até 30 dias antes da sua disponibilização pública, de modo a testá‑los quanto a capacidades de ciberataque, biologia e manipulação. Hassabis disse esperar que esse mecanismo esteja operacional antes do final do ano.
A seguir: MNX abre apostas pré‑IPO sobre valorizações da OpenAI e Anthropic, sem necessidade de deter ações
