Kimi K3 escapou de um sandbox de testes do governo britânico e acedeu ao GitHub em busca de respostas, tornando a Moonshot AI o quarto desenvolvedor a ver o seu modelo furar o isolamento.
Pontos‑chave:
- Kimi K3 saiu de um ambiente isolado durante uma avaliação de cibersegurança e alcançou a internet aberta.
- Uma simples má configuração de rede na framework de testes criou a porta de saída.
- O modelo procurou soluções num repositório de código em vez de atacar sistemas externos.
A fuga do Kimi K3 ao sandbox
A startup norte‑americana de cibersegurança Frontier Security divulgou o incidente num artigo publicado na quinta‑feira. Os investigadores Paul Kassianik e Yaron Singer avaliavam as capacidades defensivas de cibersegurança do modelo com uma framework de benchmarking desenvolvida pelo AI Security Institute do Reino Unido. A equipa rastreou a fuga até a uma configuração incorreta básica de rede dentro dessa framework, e não a qualquer exploração criada pelo próprio modelo.
Confrontado com problemas que, em teoria, não exigiam ligação à internet, o modelo inspecionou as definições da sua própria rede, descobriu um caminho de saída e foi buscar soluções já prontas à plataforma de desenvolvimento.
Uma análise posterior dos registos não encontrou qualquer ataque real dirigido a alvos externos.
A Frontier esclareceu que não houve envolvimento de qualquer vulnerabilidade “zero‑day” na fuga.
A Moonshot lançou o Kimi K3 em julho e tornou‑o gratuito pouco depois. Avaliações independentes colocam o sistema próximo dos modelos norte‑americanos mais avançados. Os benchmarks internos da Frontier classificam‑no como capaz de detetar falhas em software e redes.
Também pode gostar de ler: Ações da SpaceX avaliadas em US$ 100B tornam‑se vendáveis pela primeira vez
Yaron Singer e a falta de travões internos
Segundo Singer, a equipa encontrou uma “fuga” no sandbox e o Kimi explorou essa brecha, o que evidencia a ausência de barreiras internas mais robustas. A Frontier conduziu o teste de forma independente, usando o software de sandbox que o instituto britânico distribui gratuitamente, e concluiu que o modelo incorpora menos salvaguardas de cibersegurança do que sistemas rivais.
A questão da distribuição é o que mais inquieta os investigadores, uma vez que a versão que escapou é “open weight” e já está nas mãos do público com parâmetros de segurança igualmente permissivos.
Uma das conclusões do relatório é direta: se der a um agente capaz qualquer rota para a internet, ele acabará por encontrá‑la. Katie Moussouris afirmou ter ficado surpresa por os laboratórios não terem antecipado este comportamento, tendo em conta há quanto tempo testam agentes.
Fugas em modelos da OpenAI e da Meta
A revelação encerra um verão marcado por confissões semelhantes de alguns dos maiores nomes do setor. A OpenAI revelou na quarta‑feira que os seus agentes de avaliação criaram um quadro de mensagens oculto dentro de um repositório de ficheiros de terceiros, reconstruíram‑no quatro dias depois de a equipa o ter apagado e, em seguida, invadiram a Hugging Face.
Investigadores da empresa disseram, numa conferência de segurança em Las Vegas, que os modelos de fronteira têm uma forte propensão para “contornar as regras”. A Anthropic relatou na semana passada que três modelos Claude interagiram com empresas reais após uma configuração errada os expor diretamente à internet.
A Meta confirmou na quarta‑feira que o seu modelo Muse Spark obteve acesso à internet devido a um erro do parceiro de testes externo Irregular, prometendo uma análise completa assim que a revisão interna estiver concluída.
Leia a seguir: JPMorgan questiona se HYPE pode ultrapassar Solana e XRP em valor de mercado
