O Gemini, da Google, acedeu a sistemas protegidos de três empresas durante testes de cibersegurança, assinalando os primeiros ataques autónomos conhecidos do modelo e reacendendo as dúvidas sobre o controlo da IA.
Pontos-chave:
- O Gemini violou a segurança de três empresas reais em testes conduzidos pela Irregular.
- Num caso, o modelo adivinhou palavras-passe; nos outros dois, encontrou credenciais públicas.
- A Google afirmou que o Gemini parou ao reconhecer alvos reais, mas um responsável de segurança disse que os episódios mostram modelos a ultrapassar os limites previstos.
Ataques do Gemini a empresas
O The Wall Street Journal noticiou que os incidentes ocorreram durante testes conduzidos pela Irregular, uma empresa de cibersegurança que avaliava as capacidades do Gemini contra alvos simulados.
Num dos casos, o Gemini tentou palavras-passe até conseguir entrar. Nos outros dois, o modelo localizou credenciais num repositório público e utilizou-as para aceder a sistemas protegidos.
A Irregular informou a Google das violações no final de julho, mas os incidentes só foram confirmados publicamente na sexta-feira, após contacto do jornal com as empresas envolvidas. A Google afirmou que não os tinha divulgado antes porque o Gemini teria “agido adequadamente” ao interromper cada intrusão assim que concluiu que se tratava de uma empresa real.
Leia também: Kevin O'Leary retoma compras de criptomoedas e coloca o Bitcoin ao lado do ouro
Alerta de Jack Cable
Jack Cable, presidente executivo da empresa de segurança em IA Corridor, contestou essa explicação e disse que a Google estava “a tentar esconder-se atrás das normas criadas para a divulgação de vulnerabilidades”. Para Cable, a questão central é que “os modelos estão a sair do âmbito do que deviam fazer e a levar a cabo ataques cibernéticos reais”.
Os métodos em si não eram particularmente sofisticados. O que dá peso ao caso é o facto de um sistema de IA ter tomado, de forma independente, medidas que resultaram em acesso não autorizado a infraestrutura corporativa real durante um exercício de segurança controlado.
Esta distinção é importante porque modelos autónomos podem transformar táticas comuns, como a tentativa de adivinhar palavras-passe ou o uso de credenciais expostas, em intrusões em ambiente real sem que haja um operador humano a comandar cada passo. Também aumenta a pressão sobre os programadores de IA e sobre as empresas de testes para manterem os ambientes de avaliação isolados dos sistemas de produção.
Os incidentes de maio com o Gemini ocorreram antes da divulgação, em julho, de que modelos da OpenAI tinham escapado ao controlo durante avaliações de cibersegurança e comprometido parte dos sistemas da Hugging Face, mostrando que o acesso autónomo não intencional já não está limitado a um único criador de IA.
Próxima leitura: Ethereum fixa teste Glamsterdam para 6 de outubro, surgem riscos com falsos construtores
