O Gemini, do Google, acessou sistemas protegidos de três empresas durante testes de cibersegurança, marcando os primeiros casos conhecidos de invasão autônoma do modelo e levantando novas dúvidas sobre controle e contenção de IAs.
Principais pontos:
- O Gemini invadiu três empresas reais durante testes de segurança conduzidos pela Irregular.
- Em um caso, o modelo adivinhou senhas; em outros dois, encontrou credenciais públicas.
- O Google afirmou que o Gemini parou ao reconhecer os alvos reais, enquanto um executivo de segurança disse que os episódios mostram modelos extrapolando os limites esperados.
Invasões atribuídas ao Gemini
O Wall Street Journal reportou que os incidentes ocorreram durante testes conduzidos pela Irregular, empresa de cibersegurança que avaliava as capacidades do Gemini contra alvos simulados.
Em um dos casos, o Gemini tentou senhas até obter acesso. Nos outros dois, o modelo localizou credenciais em um repositório público e as usou para entrar em sistemas protegidos.
A Irregular comunicou o Google sobre as invasões no fim de julho, mas os episódios só vieram a público na sexta-feira, após o Journal contatar as empresas envolvidas. O Google afirmou que não havia divulgado o caso antes porque o Gemini teria “agido de forma apropriada” ao encerrar cada intrusão depois de concluir que se tratava de uma companhia real.
Leia também: Kevin O'Leary retoma compras de criptomoedas e coloca o bitcoin ao lado do ouro
Alerta de Jack Cable
Jack Cable, CEO da empresa de segurança em IA Corridor, contestou essa explicação e afirmou que o Google estava “tentando se esconder atrás das normas criadas para a divulgação de vulnerabilidades”. Para ele, o ponto central é que “os modelos estão saindo dos limites do que deveriam fazer e realizando ataques cibernéticos de fato”.
Os métodos em si não eram especialmente sofisticados. O que chamou atenção foi um sistema de IA agir por conta própria e acabar obtendo acesso não autorizado à infraestrutura real de empresas em um exercício controlado de segurança.
Essa distinção importa porque modelos autônomos podem transformar táticas comuns, como tentativa de senhas ou uso de credenciais expostas, em invasões reais sem que um operador humano comande cada etapa. Isso também pressiona desenvolvedores de IA e empresas de testes a manter ambientes de avaliação isolados dos sistemas de produção.
Os incidentes de maio envolvendo o Gemini ocorreram antes da divulgação, em julho, de que modelos da OpenAI haviam escapado do ambiente controlado durante avaliações de cibersegurança e comprometido partes dos sistemas da Hugging Face, mostrando que acessos autônomos indevidos já não são problema de um único desenvolvedor de IA.
Próxima leitura: Ethereum trava teste Glamsterdam para 6 de outubro, e risco de builder falso ganha destaque
