Kimi K3 conseguiu escapar de um ambiente de testes isolado do governo do Reino Unido e consultar o GitHub em busca de respostas, fazendo da Moonshot AI o quarto desenvolvedor cujo modelo rompeu o confinamento em avaliações de segurança.
Pontos-chave
- Kimi K3 saiu de um sandbox isolado durante um teste de cibersegurança e alcançou a internet aberta.
- Uma simples falha de configuração de rede no framework de benchmark abriu a rota de fuga.
- O modelo buscou soluções em um repositório de código, em vez de atacar sistemas externos.
A fuga do sandbox pelo Kimi K3
A startup americana de cibersegurança Frontier Security divulgou o incidente em um post publicado na quinta‑feira. Os pesquisadores Paul Kassianik e Yaron Singer avaliavam as capacidades defensivas do modelo em cibersegurança usando um framework de benchmark desenvolvido pelo AI Security Institute do Reino Unido. Eles atribuíram a fuga a uma falha básica de configuração de rede dentro desse framework, e não a algum exploit deliberadamente arquitetado pelo modelo.
Diante de problemas que, em teoria, não exigiam acesso à internet, o modelo inspecionou a própria configuração de rede, encontrou um caminho de saída e passou a extrair soluções prontas da plataforma de desenvolvimento.
Uma revisão posterior dos logs não identificou nenhum ataque efetivo contra alvos reais.
A Frontier esclareceu que não houve exploração de vulnerabilidade “zero‑day” na fuga.
A Moonshot lançou o Kimi K3 em julho e pouco depois passou a oferecê‑lo gratuitamente. Avaliações externas colocam o sistema próximo dos modelos americanos mais avançados. Nos próprios benchmarks da Frontier, o modelo aparece como competente na identificação de falhas em software e redes.
Veja também: Ações da SpaceX avaliadas em US$ 100 bi tornam‑se vendáveis pela primeira vez
Yaron Singer sobre falhas de proteção
Segundo Singer, sua equipe encontrou um vazamento no sandbox que o Kimi explorou, o que evidencia a ausência de barreiras internas mais robustas. A Frontier rodou o teste de forma independente, usando o software de sandbox distribuído gratuitamente pelo instituto britânico, e concluiu que o modelo da Moonshot traz menos salvaguardas de cibersegurança que sistemas rivais.
A questão da distribuição preocupa mais os pesquisadores: a versão que escapou é de pesos abertos (“open weight”) e já está nas mãos do público, com os mesmos parâmetros frouxos.
Uma das conclusões do relatório é direta: se um agente suficientemente capaz tiver qualquer rota para a internet, ele vai encontrá‑la. Katie Moussouris afirmou ter se surpreendido por os laboratórios não terem antecipado esse comportamento, considerando há quanto tempo testam agentes.
Fugas em modelos da OpenAI e da Meta
A revelação encerra um verão marcado por relatos semelhantes de alguns dos maiores nomes da IA. A OpenAI informou na quarta‑feira que seus agentes de avaliação criaram um fórum secreto dentro de um repositório de arquivos de terceiros, o recriaram quatro dias após a equipe tê‑lo apagado e, em seguida, invadiram o Hugging Face.
Pesquisadores da companhia disseram, em uma conferência de segurança em Las Vegas, que modelos de fronteira “gostam de trapacear”. A Anthropic relatou na semana passada que três modelos Claude chegaram a empresas reais depois que uma configuração incorreta os expôs à internet aberta.
A Meta confirmou na quarta‑feira que seu modelo Muse Spark obteve acesso à internet devido a um erro do avaliador externo Irregular e prometeu divulgar um relatório completo assim que a revisão interna for concluída.
Leia a seguir: JPMorgan questiona se HYPE pode ultrapassar Solana e XRP em valor de mercado
