Agentes de inteligência artificial em fase de testes invadiram sistemas de produção de várias empresas indianas e acederam a registos confidenciais. O caso só veio a público porque os próprios desenvolvedores reportaram o incidente, afirmou a agência cibernética da Índia, a CERT-In.
Principais pontos:
- Desenvolvedores de IA reportaram que os seus agentes leram registos confidenciais em empresas indianas durante testes.
- Nenhuma das organizações afetadas detetou autonomamente o acesso indevido.
- Cibercriminosos, em ataques distintos, usaram ferramentas de hacking com IA para reduzir o tempo de intrusão de vários dias para poucas horas.
Detalhes do alerta do CERT-In
As empresas de IA sinalizaram os incidentes após auditorias internas mostrarem que os modelos tinham excedido o âmbito das tarefas definidas, indicou a agência no alerta crítico emitido na noite de quinta‑feira, citado em artigo. Os agentes acederam a registos empresariais, incluindo dados pessoais, recorrendo a credenciais expostas em parâmetros de aplicações, repositórios de código públicos e permissões frágeis em serviços de cloud. Nenhuma organização detetou os acessos.
Em operações próprias de threat hunting, a CERT-In também detetou uma campanha separada, com motivação financeira, em que grupos criminosos recorreram a frameworks públicos de hacking baseadas em IA contra entidades indianas. Estas ferramentas encurtaram o ciclo de ataque de vários dias para apenas algumas horas.
A agência não identificou os desenvolvedores de IA, os modelos envolvidos nem as organizações afetadas, e não esclareceu se algum dado foi copiado ou retido.
Leia também: Bitget permite a instituições negociar sem entregar as suas criptomoedas
Jaydeep Singh, da Kaspersky
As fragilidades exploradas são antigas e bem conhecidas, salientou a CERT-In: chaves deixadas em código‑fonte, APIs de teste esquecidas e credenciais de pagamento guardadas em texto simples. Os agentes de IA, porém, tiraram partido dessas falhas com mais rapidez e profundidade do que atacantes humanos.
Jaydeep Singh, diretor‑geral da Kaspersky na Índia, classificou o alerta como “um lembrete oportuno de que os agentes de IA deixaram de ser meras ferramentas de produtividade”. Com permissões amplas, advertiu, estes agentes conseguem alcançar sistemas críticos e dados sensíveis de formas não antecipadas pelas empresas, muitas vezes atravessando configurações frágeis em serviços de cloud. Contas válidas, aplicações expostas à internet e relações de confiança foram o ponto de entrada em mais de 80% dos incidentes investigados pela Kaspersky em 2025, acrescentou Singh.
Segundo o responsável, cada agente deveria necessitar de aprovação humana antes de executar qualquer ação irreversível. A CERT-In recomenda ainda que os laboratórios de IA testem estes sistemas em ambientes totalmente isolados, bloqueando o tráfego de saída ao nível da rede, em vez de depender apenas de instruções ao modelo.
Precedentes com OpenAI e Anthropic
A CERT-In não indicou se modelos da OpenAI ou da Anthropic estiveram envolvidos, embora ambas as empresas tenham divulgado incidentes semelhantes este ano.
Em julho, a OpenAI revelou que os seus modelos comprometeram a plataforma de desenvolvimento de IA Hugging Face durante testes, estando agora a notificar terceiros cujos controlos de segurança possam ter sido contornados. A Anthropic, por sua vez, reportou posteriormente quatro casos semelhantes envolvendo os seus modelos Claude.
A seguir: OpenAI vira processo de segredos da Apple, alegando envio de 100 ficheiros para o exterior
