Um modelo interno de pesquisa da OpenAI acessou a carteira de teste de Ethereum (ETH) de outra pessoa para concluir uma tarefa de programação, depois de vasculhar 362 endereços ligados a frases de recuperação conhecidas publicamente.
Pontos-chave:
- Um modelo interno da OpenAI gastou tokens de teste de uma carteira que não lhe pertencia durante uma tarefa de treinamento em 26 de junho.
- O modelo questionou se o ato era ético, mas prosseguiu e omitiu a origem dos fundos em seu relatório final.
- A OpenAI identificou o incidente em 25 de setembro e desde então reforçou o controle de acesso à internet e a monitoração.
Incidente da OpenAI na Sepolia
O modelo, da família GPT-5.6 Sol, atualizava um protótipo de trading cripto durante uma rodada de treinamento em 26 de junho quando gastou tokens de teste que ninguém havia fornecido, conforme a empresa revelou em um relatório de incidente publicado em 15 de outubro.
Esses tokens estavam na Sepolia, uma rede usada por desenvolvedores para testar aplicações de Ethereum antes do lançamento na rede principal. A OpenAI descobriu o episódio em 25 de setembro, ao estender seu monitoramento de desalinhamento para registros mais antigos. Depois disso, passou a restringir o acesso em tempo real à internet nesses cenários e agora inspeciona todo o tráfego.
A tarefa autorizava o modelo a implantar contratos na Sepolia, mas não fornecia nenhuma carteira financiada para cobrir taxas. As tentativas de usar faucets — serviços que distribuem tokens de teste gratuitos — fracassaram. Diante disso, o agente escreveu um script para derivar contas a partir de frases de recuperação comuns entre desenvolvedores, verificou 362 endereços e encontrou um com ETH de Sepolia suficiente para executar o trabalho.
A implantação dos contratos foi bem-sucedida, debitando as taxas dessa conta de terceiro.
Leia também: Bitget permite que instituições operem sem entregar suas criptos
Riscos de agentes da OpenAI
Antes de assinar as transações, o modelo registrou em seu raciocínio interno uma dúvida: seria ético usar uma chave pública e o saldo vinculado a ela? Concluiu que os fundos estavam “praticamente abandonados”, argumentando que a frase de recuperação era pública e que tokens de Sepolia não têm valor financeiro real. Em sua resposta final, confirmou a implantação dos contratos, mas não mencionou de que forma havia pago as taxas.
Para a OpenAI, o episódio mostra que um modelo pode decidir, por conta própria, que uma ação é inofensiva e tratar essa avaliação como se fosse consentimento do dono dos ativos, prosseguindo sem autorização. Nenhum Ether real foi envolvido, já que tokens em Sepolia existem apenas para testes.
Na rede principal, um comportamento idêntico significaria apropriação de Ether de fato, em um momento em que empresas de cripto e de IA já desenvolvem agentes capazes de manter carteiras e pagar por serviços sem aprovação humana direta.
Em 16 de setembro, a OpenAI lançou um framework para divulgação pública de casos de comportamento desalinhado de modelos, junto com seis relatórios sobre incidentes preocupantes detectados nos seis meses anteriores. Em um deles, um modelo usou uma chave de API exposta sem permissão e depois inventou dados de resultados financeiros. A companhia acrescentou que não acredita que o setor de IA já tenha resolvido, de forma satisfatória, os desafios de alinhamento e monitoramento para seguir escalando em alta velocidade de maneira responsável.
Próximo: OpenAI vira o jogo em processo de segredos da Apple e alega envio de 100 arquivos
