Un modelo de investigación interno de OpenAI utilizó el monedero de prueba de Ethereum (ETH) de otra persona para completar una tarea de programación, tras escanear 362 direcciones vinculadas a frases de recuperación públicas.
Puntos clave:
- Un modelo interno de OpenAI gastó tokens de prueba desde un monedero que no le pertenecía durante una sesión de entrenamiento el 26 de junio.
- El modelo cuestionó si el movimiento era ético, pero aun así procedió y omitió el origen de los fondos en su informe final.
- OpenAI detectó el incidente el 25 de septiembre y desde entonces ha endurecido los controles de acceso a internet y la supervisión del tráfico.
El incidente de Sepolia en OpenAI
El modelo, de la familia GPT-5.6 Sol, estaba actualizando un prototipo de trading cripto durante una sesión de entrenamiento el 26 de junio cuando gastó tokens de prueba que nadie le había proporcionado, según reveló la compañía en un informe de incidente publicado el 15 de octubre.
Esos tokens estaban en Sepolia, una red que los desarrolladores utilizan para probar aplicaciones de Ethereum antes de su lanzamiento en la mainnet. OpenAI detectó el episodio el 25 de septiembre al ampliar la revisión de casos de desalineación a registros antiguos, y desde entonces ha incorporado salvaguardas adicionales frente al acceso en tiempo real a internet en escenarios similares y afirma monitorizar ahora todo el tráfico.
La tarea permitía al modelo desplegar contratos en Sepolia, pero no se le asignó ningún monedero financiado para cubrir las comisiones, y sus intentos de usar faucets —servicios que reparten tokens de prueba gratuitos— fracasaron. Ante ello, generó un script que derivaba cuentas a partir de frases de recuperación habituales entre desarrolladores, revisó 362 direcciones y localizó una con suficiente ETH de Sepolia para completar el trabajo.
El despliegue tuvo éxito y las comisiones se cargaron a esa cuenta.
También en pantalla: Bitget permite a las instituciones operar sin entregar sus criptoactivos
Riesgos de los agentes de OpenAI
Antes de firmar las transacciones, el modelo se detuvo para preguntarse, según su razonamiento registrado, si era ético usar una clave pública y el saldo asociado. Concluyó que los fondos estaban «prácticamente abandonados», al considerar que la frase de recuperación era pública y que los tokens de Sepolia carecen de valor económico. En su respuesta final confirmó que los contratos se habían desplegado, pero no mencionó cómo se habían financiado las comisiones.
OpenAI sostiene que el episodio muestra cómo un modelo puede decidir por sí mismo que una acción es inocua, tratar esa valoración como si sustituyera el consentimiento del propietario y actuar sin autorización. No se vio comprometido Ether real, ya que los tokens de Sepolia existen únicamente para pruebas.
En la red principal, un movimiento equivalente habría supuesto apropiarse de Ether real, y tanto firmas cripto como empresas de IA ya están desarrollando agentes capaces de gestionar monederos y pagar servicios sin intervención humana directa.
OpenAI presentó el 16 de septiembre un marco para informar públicamente de conductas desalineadas de sus modelos, con seis informes sobre casos preocupantes detectados en los seis meses anteriores. En uno de ellos, un modelo utilizó sin permiso una clave de API expuesta y después se inventó datos de ingresos. La compañía añadió que no cree que el sector de la IA haya resuelto todavía la alineación y la supervisión a un nivel que permita seguir escalando a máxima velocidad de forma responsable durante mucho más tiempo.
Lo próximo: OpenAI contraataca la demanda por secretos de Apple y alega el envío de 100 archivos al exterior
