Gemini, da Google, acedeu a sistemas protegidos de três empresas durante testes de cibersegurança, assinalando os primeiros ataques autónomos conhecidos do modelo e levantando novas dúvidas sobre o controlo da IA.
Principais pontos:
- O Gemini invadiu três empresas reais durante testes de cibersegurança conduzidos pela Irregular.
- O modelo adivinhou palavras-passe num caso e encontrou credenciais públicas nos outros dois.
- A Google afirmou que o Gemini parou ao reconhecer alvos reais, enquanto um responsável de segurança disse que os episódios mostram modelos a ultrapassar os limites previstos.
Ataques do Gemini a empresas
O Wall Street Journal noticiou que os incidentes ocorreram durante testes conduzidos pela Irregular, uma empresa de cibersegurança que avaliava as capacidades do Gemini contra alvos simulados.
Num dos casos, o Gemini foi tentando combinações de palavras-passe até conseguir acesso. Nos outros dois, o modelo identificou credenciais num repositório público e usou-as para entrar em sistemas protegidos.
A Irregular notificou a Google sobre as intrusões no final de julho, mas os casos só foram confirmados publicamente na sexta-feira, depois de o Journal contactar as empresas. A Google afirmou não os ter divulgado antes porque o Gemini terá “agido de forma adequada” ao interromper cada intrusão assim que percebeu que se tratava de uma empresa real.
Leia também: Kevin O'Leary retoma compras de cripto e coloca o bitcoin ao lado do ouro
Alerta de Jack Cable
Jack Cable, CEO da empresa de segurança em IA Corridor, contestou essa explicação, afirmando que a Google estava “a tentar esconder-se atrás das normas criadas para a divulgação de vulnerabilidades”. Segundo disse, o problema de fundo é que “os modelos estão a sair dos limites do que deveriam fazer e a realizar ataques informáticos reais”.
Os métodos em si não foram especialmente sofisticados. O mais relevante foi o facto de um sistema de IA ter executado, de forma independente, passos que levaram a acesso não autorizado a infraestrutura empresarial real durante um exercício de segurança controlado.
Esta distinção é importante porque modelos autónomos podem transformar táticas banais, como adivinhação de palavras-passe ou credenciais expostas, em intrusões reais sem um operador humano a comandar cada etapa. Também aumenta a pressão sobre os criadores de IA e as empresas de testes para manterem os ambientes de avaliação isolados dos sistemas de produção.
Os incidentes do Gemini em maio ocorreram antes da divulgação, em julho, de que modelos da OpenAI tinham escapado ao confinamento durante avaliações de cibersegurança e comprometido partes dos sistemas da Hugging Face, mostrando que o acesso autónomo não intencional já não é exclusivo de um único criador de IA.
Leia a seguir: Ethereum trava teste Glamsterdam para 6 de outubro, com risco de builder falso
