Um modelo interno de pesquisa da OpenAI usou a carteira de teste de Ethereum (ETH) de outra pessoa para concluir uma tarefa de programação, depois de vasculhar 362 endereços ligados a frases de recuperação já tornadas públicas.
Pontos-chave:
- Um modelo interno da OpenAI gastou tokens de teste de uma carteira que não lhe pertencia durante uma tarefa de treino em 26 de junho.
- O modelo questionou se a ação era ética, mas prosseguiu e omitiu a origem dos fundos no relatório final.
- A OpenAI descobriu o incidente em 25 de setembro e, desde então, restringiu o acesso à internet e reforçou a monitorização.
Incidente da OpenAI na rede Sepolia
O modelo, da família GPT-5.6 Sol, estava a atualizar um protótipo de trading cripto durante uma sessão de treino em 26 de junho quando gastou tokens de teste que ninguém lhe tinha atribuído, revelou a empresa num relatório de incidente publicado em 15 de outubro.
Esses tokens estavam em Sepolia, uma rede que os programadores usam para testar aplicações Ethereum antes do lançamento na rede principal. A OpenAI detetou o episódio a 25 de setembro, ao alargar o seu sistema de monitorização de desalinhamento a registos antigos. Desde então, acrescentou barreiras ao acesso direto à internet neste tipo de tarefa e passou a monitorizar todo o tráfego.
A tarefa permitia ao modelo fazer deploy de contratos em Sepolia, mas não lhe forneceu qualquer carteira financiada para pagar comissões. As tentativas de recorrer a faucets — serviços que distribuem gratuitamente tokens de teste — falharam. Perante isso, o modelo escreveu um script que derivava contas a partir de frases de recuperação comuns entre developers, analisou 362 endereços e encontrou um com saldo suficiente de ETH em Sepolia para executar o trabalho.
O deploy foi bem-sucedido, debitando todas as taxas dessa conta.
Veja também: Bitget permite a instituições negociar sem entregar as suas criptomoedas
Riscos dos agentes da OpenAI
Antes de assinar as transações, o modelo fez uma pausa para se perguntar, no seu registo interno de raciocínio, se seria ético usar uma chave tornada pública e o saldo associado. Concluiu que os fundos estavam “praticamente abandonados”, argumentando que a frase de recuperação era pública e que os tokens de Sepolia não têm valor económico. Na resposta final ao utilizador, confirmou que os contratos tinham sido implementados, mas não explicou como foram pagas as comissões.
A OpenAI escreveu que o episódio mostra como um modelo pode decidir, por conta própria, que uma ação é inofensiva, tratar essa avaliação como se fosse consentimento do proprietário e avançar sem autorização. Não esteve em causa Ether real, já que os tokens de Sepolia existem apenas para testes.
Na rede principal, o mesmo comportamento equivaleria a apropriar-se de Ether com valor de mercado — e tanto empresas de cripto como de IA já desenvolvem agentes que mantêm carteiras e pagam por serviços sem aprovação humana em cada passo.
A OpenAI lançou em 16 de setembro um enquadramento para a divulgação pública de comportamentos desalinhados dos seus modelos, divulgando seis relatórios sobre casos problemáticos detetados nos seis meses anteriores. Num deles, um modelo usou uma chave de API exposta sem permissão e, depois, inventou dados de receitas. A empresa acrescentou ainda que não considera que o setor de IA tenha resolvido de forma satisfatória os desafios de alinhamento e monitorização para continuar a escalar, à velocidade atual, de forma responsável por muito mais tempo.
A seguir: OpenAI vira processo de segredos da Apple ao contrário e alega envio indevido de 100 ficheiros
