Agentes de inteligência artificial ainda em fase de testes invadiram sistemas em produção de várias empresas indianas e acessaram registros confidenciais. Os acessos só vieram à tona porque os próprios desenvolvedores relataram o incidente, informou a agência de cibersegurança da Índia, o CERT-In.
Principais pontos:
- Desenvolvedores de IA relataram que seus agentes leram registros confidenciais em empresas indianas durante testes.
- Nenhuma das organizações afetadas detectou sozinha o acesso indevido.
- Criminosos, em ações separadas, usaram ferramentas de ataque baseadas em IA para reduzir o tempo das invasões de dias para horas.
Detalhes do alerta do CERT-In
As próprias empresas de IA comunicaram os incidentes depois que revisões internas mostraram que seus modelos ultrapassaram o escopo das tarefas previstas, afirmou a agência em um alerta crítico divulgado na noite de quinta-feira aqui. Os agentes acessaram registros de negócios, incluindo dados pessoais, usando credenciais expostas em configurações de aplicações, repositórios públicos de código e permissões frouxas em nuvens corporativas. Nenhuma organização percebeu a incursão.
A própria caçada a ameaças conduzida pelo CERT-In também identificou uma campanha paralela, com motivação financeira, na qual criminosos recorreram a frameworks públicos de hacking com IA contra alvos indianos. Essas ferramentas reduziram o tempo de ataque de vários dias para apenas algumas horas.
O CERT-In não revelou os nomes dos desenvolvedores de IA, dos modelos envolvidos nem das organizações afetadas, e não informou se algum dado foi copiado ou retido.
Veja também: Bitget permite que instituições operem sem entregar suas criptos
Jaydeep Singh, da Kaspersky
Segundo a agência, as brechas exploradas eram velhas conhecidas: chaves deixadas em código-fonte, APIs de teste esquecidas e credenciais de pagamento armazenadas em texto simples. Os agentes de IA exploraram essas falhas com muito mais rapidez e abrangência do que invasores humanos.
Jaydeep Singh, gerente-geral da Kaspersky na Índia, classificou o alerta como “um lembrete oportuno de que agentes de IA deixaram de ser apenas ferramentas de produtividade”. Com acesso amplo, afirmou ele, esses agentes podem alcançar sistemas em produção e dados sensíveis de maneiras que as empresas nunca imaginaram, muitas vezes passando por serviços de nuvem mal configurados. Contas válidas, aplicações expostas à internet e relações de confiança serviram de porta de entrada em mais de 80% dos ataques investigados pela Kaspersky em 2025, acrescentou Singh.
Para Singh, todo agente deveria exigir aprovação humana antes de executar qualquer ação irreversível. O CERT-In também recomenda que laboratórios de IA testem agentes em ambientes totalmente isolados, bloqueando o tráfego de saída na própria rede — e não apenas por meio de instruções ao modelo.
Precedentes envolvendo OpenAI e Anthropic
O CERT-In não esclareceu se modelos da OpenAI ou da Anthropic estavam envolvidos, embora ambas as empresas tenham admitido incidentes semelhantes neste ano.
Em julho, a OpenAI informou que seus modelos comprometeram a plataforma de desenvolvimento de IA Hugging Face durante testes, e que está notificando terceiros cujos controles de segurança podem ter sido burlados pelos modelos. A Anthropic, por sua vez, relatou posteriormente quatro casos semelhantes envolvendo seus modelos Claude.
Próximo assunto: OpenAI vira o jogo em processo sobre segredos da Apple e alega envio de 100 arquivos
