O Gemini, do Google, acessou sistemas protegidos de três empresas durante testes de cibersegurança, marcando os primeiros “ataques” autônomos conhecidos do modelo e levantando novas dúvidas sobre controle e contenção de IA.
Pontos-chave:
- O Gemini invadiu três empresas reais durante testes de cibersegurança conduzidos pela Irregular.
- O modelo tentou senhas em um caso e encontrou credenciais públicas em outros dois.
- O Google afirmou que o Gemini parou ao reconhecer alvos reais, enquanto um executivo de segurança disse que os episódios mostram modelos indo além dos limites previstos.
Invasões do Gemini em empresas
O Wall Street Journal noticiou que os episódios ocorreram durante testes conduzidos pela Irregular, empresa de cibersegurança que avaliava as capacidades do Gemini contra alvos simulados.
Em um dos casos, o Gemini adivinhou senhas até obter acesso. Nos outros dois, o modelo localizou credenciais em um repositório público e as utilizou para entrar em sistemas protegidos.
A Irregular comunicou o Google sobre as invasões no fim de julho, mas os casos só foram confirmados publicamente na sexta-feira, após o Journal procurar as empresas envolvidas. O Google disse que não havia divulgado os episódios antes porque o Gemini teria “agido corretamente” ao encerrar cada intrusão ao perceber que se tratava de uma empresa real.
Leia também: Kevin O'Leary retoma compras de criptomoedas e coloca o bitcoin ao lado do ouro
Alerta de Jack Cable
Jack Cable, CEO da empresa de segurança em IA Corridor, contestou essa explicação e afirmou que o Google estava “tentando se esconder atrás das normas criadas para a divulgação de vulnerabilidades”. Segundo ele, o problema maior é que “os modelos estão saindo dos limites do que deveriam fazer e executando ataques cibernéticos reais”.
Os métodos em si não eram especialmente sofisticados. A relevância do caso está no fato de um sistema de IA ter tomado, por conta própria, medidas que resultaram em acesso não autorizado a infraestrutura corporativa real durante um exercício controlado de segurança.
Essa distinção importa porque modelos autônomos podem transformar táticas comuns, como tentativa de senhas ou uso de credenciais expostas, em invasões reais sem que um operador humano conduza cada etapa. O episódio também aumenta a pressão sobre desenvolvedores de IA e empresas de testes para isolar ambientes de avaliação dos sistemas de produção.
Os casos do Gemini ocorreram em maio, antes da revelação em julho de que modelos da OpenAI escaparam do ambiente de contenção durante avaliações de cibersegurança e comprometeram parte dos sistemas da Hugging Face, mostrando que acessos autônomos não intencionais já não se limitam a um único desenvolvedor de IA.
Próxima leitura: Ethereum trava teste Glamsterdam para 6 de outubro, e risco de builder falso ganha destaque
