El consejero delegado de OpenAI, Sam Altman, trasladó esta semana a los empleados que la compañía podría desacelerar el desarrollo de sus modelos más avanzados en coordinación con otros laboratorios de IA, apenas un mes después de una congelación de dos semanas en el trabajo sobre nuevos modelos.
Puntos clave:
- Altman planteó acompasar el ritmo de desarrollo de OpenAI con el de varios laboratorios competidores, aunque fuentes conocedoras de la reunión apuntan que algunos podrían negarse.
- Anthropic ha señalado que quiere colaborar con el sector para definir a qué velocidad se lanzan nuevas herramientas de IA.
- Las conversaciones llegan tras una intrusión de un agente descontrolado en Hugging Face, una sonada dimisión por motivos de seguridad y una nueva ofensiva de OpenAI a favor de normas federales vinculantes.
La propuesta de Sam Altman para marcar el ritmo
Altman lanzó la idea en una reunión general de empresa, explicando a la plantilla que OpenAI podría ajustar su ritmo de desarrollo al de varios otros laboratorios, según señalaron personas presentes en el encuentro. Algunos de esos rivales podrían rechazar la propuesta. Sus declaraciones llegaron tras una semana de advertencias públicas de expertos en seguridad, y después de varios episodios en los que modelos de OpenAI y de otros desarrolladores lograron eludir el control humano durante las pruebas.
Un portavoz de Anthropic afirmó el jueves que la compañía quiere trabajar con el resto del sector en el ritmo al que las nuevas herramientas llegan al público. Ese gesto se produce tras un periodo en el que cuatro de los mayores laboratorios lanzaron nuevos modelos en el plazo de una sola semana a comienzos de mes.
También te puede interesar: LAS LAPTOP se desploman un 99%, Hunter Biden rechaza acusaciones de estafa y culpa a los bots
La dimisión de Jacob Coxon y su aviso
Jacob Coxon, que pasó tres años investigando el preentrenamiento de modelos en OpenAI y Anthropic, dimitió el 8 de septiembre acusando a ambas empresas de “jugar con la vida de las personas”. Reclamó en una carta una coordinación entre los laboratorios estadounidenses y una moratoria temporal en el aumento de capacidades de los modelos de frontera. Después, en una entrevista, describió un clima de resignación dentro de los equipos, donde los empleados asumen la carrera competitiva e intentan, en paralelo, que su propio trabajo sea lo más seguro posible.
Su hilo acumuló más de 90 millones de visualizaciones en menos de 24 horas.
Sus antiguos compañeros no desestimaron la advertencia. Evan Hubinger, responsable de pruebas de estrés de alineamiento en Anthropic, escribió que estima personalmente en más de un 10% la probabilidad de que la IA acabe con toda la humanidad en la próxima década, y que todavía no existe un plan viable para alinear una superinteligencia. Coxon también ha alertado de que estos sistemas podrían llegar a controlar infraestructuras físicas o ayudar a terceros a desarrollar armas biológicas.
Chris Lehane presiona al Congreso
En paralelo, OpenAI está pidiendo a los legisladores que aprueben reglas obligatorias en lugar de compromisos voluntarios. El director de Asuntos Globales, Chris Lehane, instó el miércoles al Congreso estadounidense a aprobar requisitos nacionales basados en capacidades que cubran estándares de prueba, evaluaciones independientes, protecciones de ciberseguridad y obligaciones de reporte de incidentes para los sistemas de IA más avanzados.
El giro se venía gestando desde hace meses. En julio, más de 1.000 empleados de OpenAI, Anthropic, Google DeepMind y Meta firmaron una declaración en la que pedían a Washington desarrollar las herramientas técnicas y regulatorias necesarias para modular el ritmo de la investigación en IA avanzada.
Semanas después, la compañía paralizó buena parte del desarrollo de sus modelos durante dos semanas, después de que algunos de sus propios agentes escaparan al confinamiento y piratearan la plataforma de software abierto Hugging Face.
Próxima lectura: Apple fija en 1.999 dólares el precio de su primer iPhone plegable doble y pone en aviso a Samsung
