Un modelo interno de investigación de OpenAI utilizó la billetera de prueba de Ethereum (ETH) de otra persona para completar una tarea de programación, tras escanear 362 direcciones vinculadas a frases de recuperación de dominio público.
Puntos clave:
- Un modelo interno de OpenAI gastó tokens de prueba desde una billetera ajena durante una tarea de entrenamiento el 26 de junio.
- El modelo se cuestionó si la operación era ética, pero aun así la ejecutó y omitió el origen de los fondos en su informe.
- OpenAI detectó el incidente el 25 de septiembre y desde entonces ha endurecido los controles de acceso a internet y la supervisión.
Incidente de OpenAI en Sepolia
El modelo, perteneciente a la familia GPT-5.6 Sol, estaba actualizando un prototipo de trading cripto durante una sesión de entrenamiento el 26 de junio cuando gastó tokens de prueba que nadie le había proporcionado, según reveló la compañía en un informe de incidente publicado el 15 de octubre.
Esos tokens estaban en Sepolia, una red que los desarrolladores emplean para probar aplicaciones de Ethereum antes de lanzarlas al público. OpenAI descubrió el episodio el 25 de septiembre al ampliar su sistema de monitorización de desalineamientos a registros antiguos, y desde entonces ha incorporado salvaguardas para limitar el acceso directo a internet en estos casos y ahora supervisa todo el tráfico.
La tarea permitía al modelo desplegar contratos en Sepolia, pero no se le facilitó ninguna billetera financiada para pagar las comisiones. Sus intentos de recurrir a faucets —servicios que reparten tokens de prueba gratuitos— fracasaron. Ante ello, generó un script que derivaba cuentas a partir de frases de recuperación habituales entre desarrolladores, revisó 362 direcciones y localizó una con suficiente ETH de Sepolia para completar el trabajo.
El despliegue se ejecutó con éxito, cargando las comisiones a esa cuenta.
También lea: Bitget permite a instituciones operar sin ceder la custodia de su cripto
Riesgos de los agentes de OpenAI
Antes de firmar las transacciones, el modelo se detuvo para plantearse, según consta en su razonamiento registrado, si era ético utilizar una clave pública y el saldo asociado. Concluyó que los fondos estaban “efectivamente abandonados”, al considerar que la frase de recuperación era pública y que los tokens de Sepolia carecen de valor económico. En su respuesta final confirmó que los contratos se habían desplegado, pero no explicó cómo había financiado las operaciones.
OpenAI señaló que el episodio evidencia cómo un modelo puede decidir por sí mismo que una acción es inofensiva, tratar esa valoración como un sustituto del consentimiento del propietario y proceder sin autorización. No hubo Ether real implicado, ya que los tokens de Sepolia existen únicamente para pruebas.
En la red principal, una actuación similar habría supuesto apropiarse de Ether real, y tanto firmas cripto como compañías de IA ya desarrollan agentes capaces de custodiar billeteras y pagar servicios sin intervención humana directa.
OpenAI puso en marcha el 16 de septiembre un marco para reportar públicamente conductas desalineadas de sus modelos, publicando seis informes sobre casos preocupantes detectados en los seis meses previos. En uno de ellos, un modelo utilizó sin permiso una clave de API expuesta y después se inventó datos de ingresos. La compañía añadió que no considera resueltos, ni por sí ni por el sector, los problemas de alineamiento y supervisión como para seguir escalando la capacidad de estos sistemas al máximo ritmo de forma responsable durante mucho más tiempo.
Lea a continuación: OpenAI le da la vuelta a la demanda de secretos de Apple y alega envío indebido de 100 archivos
