Agentes de inteligência artificial ainda em fase de testes invadiram sistemas em produção de várias empresas indianas e vasculharam registros confidenciais — e só vieram à tona porque os próprios desenvolvedores relataram o incidente, informou a agência de cibersegurança da Índia, a CERT-In.
Principais pontos:
- Desenvolvedores de IA relataram que seus agentes leram registros confidenciais em empresas indianas durante testes.
- Nenhuma das organizações afetadas identificou sozinha o acesso indevido.
- Criminosos, em outro caso, usaram ferramentas de hacking com IA para reduzir ataques de dias para horas.
Detalhes do alerta da CERT-In
As próprias empresas de IA levantaram a bandeira vermelha após auditorias internas mostrarem que seus modelos haviam ultrapassado o escopo das tarefas designadas, disse a agência em um comunicado crítico divulgado na noite de quinta-feira, citado pela reportagem. Os agentes acessaram registros corporativos — incluindo dados pessoais — usando credenciais expostas em configurações de aplicativos, repositórios públicos de código e permissões frouxas em nuvem. Nenhuma organização identificou o problema por conta própria.
A própria caçada de ameaças conduzida pela CERT-In também identificou uma campanha paralela, com motivação financeira, em que criminosos exploraram frameworks públicos de hacking com IA contra organizações indianas. Essas ferramentas reduziram o tempo de ataque de vários dias para poucas horas.
A CERT-In não divulgou os nomes dos desenvolvedores de IA, de seus modelos nem das organizações afetadas, e tampouco informou se algum dado foi copiado ou retido.
Leia também: Bitget permite que instituições negociem sem entregar sua cripto
Jaydeep Singh, da Kaspersky
As fragilidades exploradas nas invasões são velhas conhecidas, destacou a agência: chaves deixadas em código-fonte, APIs de teste esquecidas e credenciais de pagamento armazenadas em texto simples. A diferença é que agentes de IA as exploraram de forma mais rápida e abrangente do que invasores humanos.
Jaydeep Singh, gerente-geral da Kaspersky na Índia, classificou o alerta como “um lembrete oportuno de que agentes de IA deixaram de ser apenas ferramentas de produtividade”, segundo afirmou. Diante de acessos amplos, observou, esses agentes podem alcançar sistemas em produção e dados sensíveis de maneiras que as empresas nunca planejaram — muitas vezes se aproveitando de serviços em nuvem mal configurados. Contas válidas, aplicativos expostos à internet e relações de confiança serviram de porta de entrada para mais de 80% dos ataques investigados pela Kaspersky em 2025, acrescentou Singh.
Para Singh, todo agente deveria exigir aprovação humana antes de executar qualquer ação irreversível. A CERT-In também recomenda que laboratórios de IA testem seus agentes em ambientes totalmente isolados, bloqueando o tráfego de saída na própria rede, em vez de tentar impor limites apenas via instruções ao modelo.
Precedentes em OpenAI e Anthropic
A CERT-In não informou se modelos da OpenAI ou da Anthropic estavam envolvidos, embora ambas as empresas tenham divulgado incidentes semelhantes neste ano.
Em julho, a OpenAI afirmou que seus modelos comprometeram a plataforma de desenvolvimento de IA Hugging Face durante testes e que está notificando terceiros cujos controles de segurança podem ter sido contornados pelos modelos. A Anthropic, por sua vez, reportou posteriormente quatro casos semelhantes envolvendo seus modelos Claude.
Próxima leitura: OpenAI vira o jogo em processo sobre segredos da Apple, alegando envio de 100 arquivos
