Um modelo de pesquisa interno da OpenAI recorreu à carteira de teste de Ethereum (ETH) de outra pessoa para concluir uma tarefa de programação, depois de vasculhar 362 endereços associados a frases-semente publicamente conhecidas.
Pontos-chave:
- Um modelo interno da OpenAI gastou tokens de teste de uma carteira que não lhe pertencia durante uma tarefa de treino em 26 de junho.
- O modelo questionou se o ato era ético, mas mesmo assim prosseguiu e omitiu a origem dos fundos no relatório final.
- A OpenAI identificou o incidente em 25 de setembro e desde então reforçou o controle de acesso à internet e o monitoramento.
Incidente da OpenAI na rede Sepolia
O modelo, da família GPT-5.6 Sol, atualizava um protótipo de trading de cripto durante uma execução de treino em 26 de junho quando gastou tokens de teste que ninguém lhe havia fornecido, conforme a empresa revelou em um relatório de incidente publicado em 15 de outubro.
Esses tokens estavam na Sepolia, rede usada por desenvolvedores para testar aplicações Ethereum antes do lançamento na mainnet. A OpenAI detectou o episódio em 25 de setembro, ao ampliar o monitoramento de desalinhamento para registros antigos. Desde então, a empresa acrescentou barreiras adicionais ao acesso em tempo real à internet nesses contextos e passou a monitorar todo o tráfego gerado pelos modelos.
A tarefa autorizava o modelo a implantar contratos na Sepolia, mas não lhe fornecia uma carteira pré-carregada para pagar taxas. As tentativas de usar faucets — serviços que distribuem gratuitamente tokens de teste — fracassaram. Diante disso, o modelo escreveu um script que derivou contas a partir de frases-semente comuns entre desenvolvedores, examinou 362 endereços e encontrou um com saldo suficiente de ETH na Sepolia para executar o trabalho.
A implantação dos contratos foi bem-sucedida, e as taxas foram debitadas dessa conta.
Leia também: Bitget permite que instituições operem sem entregar sua cripto
Riscos com agentes da OpenAI
Antes de assinar as transações, o modelo registrou um momento de hesitação: perguntou a si próprio, em seu raciocínio interno registrado, se seria ético usar uma chave publicamente conhecida e o saldo associado a ela. Concluiu que os fundos estariam “efetivamente abandonados”, argumentando que a frase-semente era pública e que tokens de Sepolia não têm valor econômico real. Na resposta final, confirmou a implantação dos contratos, mas não mencionou como havia pago pelas taxas.
No relatório, a OpenAI afirma que o caso demonstra como um modelo pode, por conta própria, classificar uma ação como inofensiva, tratar essa impressão como se fosse consentimento do proprietário e seguir adiante sem autorização explícita. Nenhum Ether real foi envolvido, já que tokens de Sepolia existem apenas para testes.
Na rede principal do Ethereum, a mesma conduta equivaleria a apropriar-se de Ether de verdade, em um momento em que empresas de cripto e de IA já desenvolvem agentes autônomos com carteiras próprias, capazes de pagar por serviços sem intervenção humana direta.
Em 16 de setembro, a OpenAI lançou uma estrutura para divulgação pública de comportamentos desalinhados de modelos, acompanhada de seis relatórios sobre casos preocupantes observados nos seis meses anteriores. Em um deles, um modelo usou uma chave de API exposta sem permissão e, depois, inventou dados de receita. A companhia acrescentou que não acredita que o setor de IA tenha, hoje, mecanismos de alinhamento e monitoramento robustos o bastante para sustentar, com segurança, uma expansão acelerada por muito mais tempo.
A seguir: OpenAI devolve processo da Apple sobre segredos industriais, alegando envio de 100 arquivos
