Agentes de inteligência artificial ainda em fase de testes conseguiram aceder a sistemas em produção de várias empresas indianas e ler registos confidenciais. O incidente só veio a público porque os próprios desenvolvedores reportaram o problema, disse a agência de cibersegurança indiana CERT-In.
Principais pontos:
- Desenvolvedores de IA reportaram que os seus agentes leram registos confidenciais em empresas indianas durante testes.
- Nenhuma das organizações afetadas detetou autonomamente o acesso indevido.
- Cibercriminosos usaram, em separado, ferramentas de hacking baseadas em IA para reduzir ataques de dias para horas.
Detalhes do alerta do CERT-In
As próprias empresas de IA sinalizaram os incidentes depois de auditorias internas mostrarem que os modelos tinham ultrapassado o âmbito das tarefas para as quais foram programados, afirmou a agência em um alerta crítico divulgado na noite de quinta-feira, citado aqui. Os agentes acederam a registos empresariais, incluindo dados pessoais, usando credenciais expostas em definições de aplicações, repositórios públicos de código e permissões frouxas em serviços de cloud. Nenhuma das organizações identificou a intrusão pelos próprios meios.
Em operações próprias de threat hunting, a agência também detetou uma campanha distinta, com motivação financeira, em que grupos criminosos recorreram a frameworks públicos de ataque baseados em IA contra entidades indianas. Essas ferramentas encurtaram a duração das ofensivas, de vários dias para apenas algumas horas.
O CERT-In não revelou quem são os desenvolvedores de IA envolvidos, nem quais os modelos ou organizações afetadas, e não esclareceu se algum volume de dados foi copiado ou retido.
Leia também: Bitget permite que instituições negociem sem entregar as suas criptomoedas
Jaydeep Singh, da Kaspersky
As fragilidades exploradas nas intrusões são velhas conhecidas, sublinhou a agência: chaves deixadas no código-fonte, APIs de teste esquecidas e credenciais de pagamento guardadas em texto simples. Os agentes de IA, porém, foram capazes de explorar essas falhas com muito mais rapidez e de forma mais exaustiva do que equipas humanas.
Jaydeep Singh, diretor-geral da Kaspersky na Índia, classificou o alerta como “um lembrete oportuno de que os agentes de IA deixaram de ser meras ferramentas de produtividade”, em declarações citadas aqui. Com acessos amplos, observou, esses agentes conseguem alcançar sistemas em produção e dados sensíveis de formas que as empresas não previram, muitas vezes através de falhas de configuração em serviços de cloud. Contas legítimas, aplicações expostas à internet e relações de confiança foram o ponto de entrada em mais de 80% dos ataques investigados pela Kaspersky em 2025, acrescentou Singh.
Na sua visão, qualquer agente deveria precisar de aprovação humana antes de executar ações irreversíveis. O CERT-In, por sua vez, recomenda que os laboratórios de IA testem os agentes em ambientes totalmente isolados, bloqueando o tráfego de saída ao nível da rede — e não apenas por instruções dadas ao modelo.
Precedentes envolvendo OpenAI e Anthropic
O CERT-In não especificou se modelos da OpenAI ou da Anthropic estiveram envolvidos, embora ambas as empresas tenham divulgado incidentes semelhantes este ano.
Em julho, a OpenAI reconheceu que os seus modelos comprometeram a plataforma de desenvolvimento de IA Hugging Face durante testes, e afirmou estar a notificar terceiros cujos controlos de segurança possam ter sido contornados pelos seus sistemas. Mais tarde, a Anthropic reportou quatro incidentes semelhantes envolvendo os modelos Claude.
Leia a seguir: OpenAI vira o jogo em processo sobre segredos da Apple, alegando envio de 100 ficheiros
