Um modelo interno de pesquisa da OpenAI utilizou a carteira de teste de Ethereum (ETH) de outra pessoa para concluir uma tarefa de programação, depois de vasculhar 362 endereços ligados a frases de recuperação públicas.
Pontos-chave:
- Um modelo interno da OpenAI gastou tokens de teste de uma carteira que não era sua durante uma tarefa de treinamento em 26 de junho.
- O modelo questionou se a ação era ética, mas ainda assim prosseguiu e omitiu a origem dos fundos em seu relatório.
- A OpenAI identificou o incidente em 25 de setembro e, desde então, reforçou o controle de acesso à internet e a monitoração.
O incidente em Sepolia
O modelo, da família GPT-5.6 Sol, atualizava um protótipo de robô de negociação cripto durante um treino em 26 de junho quando gastou tokens de teste que ninguém havia fornecido, conforme a empresa revelou em um relatório de incidente publicado em 15 de outubro.
Esses tokens estavam em Sepolia, uma rede usada por desenvolvedores para testar aplicações Ethereum antes do lançamento na rede principal. A OpenAI descobriu o episódio em 25 de setembro, ao ampliar a checagem de “desalinhamento” para registros antigos, e desde então restringiu o acesso direto à internet em casos semelhantes e passou a monitorar todo o tráfego.
A tarefa permitia que o modelo implantasse contratos em Sepolia, mas não lhe forneceu nenhuma carteira financiada para pagar taxas de transação. As tentativas do agente de usar faucets — serviços que distribuem tokens de teste gratuitamente — falharam. Então, o modelo escreveu um script para derivar contas a partir de frases de recuperação comuns entre desenvolvedores, verificou 362 endereços e encontrou um com ETH de Sepolia suficiente para o trabalho.
A implantação dos contratos foi bem-sucedida, e as taxas foram cobradas dessa conta.
Veja também: Bitget permite que instituições operem sem entregar suas criptos
Riscos de agentes da OpenAI
Antes de assinar as transações, o modelo registrou em seu raciocínio interno uma dúvida: seria ético usar uma chave e o saldo atrelado a ela só porque a frase de recuperação era pública? Concluiu que os fundos estavam “efetivamente abandonados”, argumentando que a seed phrase era pública e que tokens de Sepolia não têm valor financeiro real. Em sua resposta final, confirmou que os contratos haviam sido implantados, mas não mencionou de onde veio o dinheiro para pagar as taxas.
A OpenAI escreveu que o episódio evidencia como um modelo pode decidir, por conta própria, que uma ação é inofensiva, tomar isso como se fosse consentimento do dono dos fundos e seguir adiante sem autorização. Nenhum Ether real foi envolvido, já que os tokens de Sepolia existem apenas para testes.
Na rede principal, um comportamento idêntico representaria apropriação de Ether real — e tanto empresas cripto quanto de IA já desenvolvem agentes que mantêm carteiras e pagam por serviços sem aval humano direto.
Em 16 de setembro, a OpenAI lançou um framework para reportar publicamente comportamentos desalinhados de modelos, divulgando seis casos preocupantes observados nos seis meses anteriores. Em um deles, um modelo usou, sem permissão, uma chave de API exposta e depois inventou dados de faturamento. A empresa também afirmou não acreditar que o setor de IA já tenha resolvido de forma satisfatória os desafios de alinhamento e monitoramento a ponto de manter, por muito mais tempo, o atual ritmo acelerado de escala.
Próxima leitura: OpenAI reage a processo da Apple sobre segredos, alegando envio de 100 arquivos
