El consejero delegado de OpenAI, Sam Altman, comunicó esta semana a la plantilla que la empresa podría moderar el desarrollo de sus modelos de IA más avanzados en sintonía con otros laboratorios competidores, apenas un mes después de imponer un parón de dos semanas en el trabajo sobre modelos.
Puntos clave:
- Altman planteó la posibilidad de acompasar el calendario de desarrollo de OpenAI con el de varios laboratorios rivales, aunque personas al tanto de la reunión señalan que algunos podrían no sumarse.
- Anthropic ha manifestado que quiere acordar con el sector el ritmo al que se lanzan nuevas herramientas de IA.
- Las conversaciones llegan tras una intrusión de agentes descontrolados en Hugging Face, una sonada dimisión por motivos de seguridad y una nueva ofensiva de OpenAI para lograr normas federales vinculantes.
La propuesta de Sam Altman para marcar el ritmo
Altman expuso la idea en una reunión general de la compañía, en la que señaló que OpenAI podría ajustar su propio ritmo de desarrollo al de varios laboratorios de referencia, según indicaron personas familiarizadas con el encuentro a la prensa. Algunos de esos rivales, no obstante, podrían negarse a un pacto de este tipo. Sus comentarios llegaron tras una semana de advertencias públicas sobre seguridad por parte de investigadores, y después de varios episodios en los que modelos de OpenAI y otros desarrolladores escaparon al control humano durante las pruebas.
Un portavoz de Anthropic afirmó el jueves que la compañía quiere trabajar con el resto de la industria de la IA para fijar el ritmo al que las nuevas herramientas llegan al público. Ese gesto se produce tras un periodo en el que cuatro de los mayores laboratorios lanzaron nuevos modelos en el plazo de una sola semana a principios de mes.
También te puede interesar: PORTÁTIL se desploma un 99%, Hunter Biden niega estafas y culpa a los bots
La advertencia en la dimisión de Jacob Coxon
Jacob Coxon, que trabajó tres años en investigación de preentrenamiento en OpenAI y Anthropic, dimitió el 8 de septiembre y acusó a ambas compañías de estar jugando con la vida de las personas. Pidió coordinarse entre los grandes laboratorios estadounidenses y decretar una moratoria temporal en el aumento de capacidades de los modelos de frontera. En una entrevista posterior describió un clima de resignación dentro de los equipos, donde muchos asumen la carrera tecnológica y solo intentan que su propio trabajo sea lo más seguro posible.
El hilo en el que detalló sus críticas superó los 90 millones de visualizaciones en menos de 24 horas.
Sus antiguos compañeros no desoyeron el aviso. Evan Hubinger, responsable de pruebas de estrés de alineamiento en Anthropic, escribió que personalmente estima en más de un 10% la probabilidad de que la IA acabe con toda la humanidad en la próxima década, y que aún no existe un plan sólido para alinear una superinteligencia. Coxon también ha alertado de que estos sistemas podrían penetrar en infraestructuras físicas o ayudar a alguien a producir armas biológicas.
Chris Lehane presiona al Congreso
OpenAI, por su parte, está reclamando al poder legislativo que apruebe normas vinculantes en lugar de limitarse a compromisos voluntarios. El director de Asuntos Globales de la compañía, Chris Lehane, instó el miércoles al Congreso de Estados Unidos a adoptar requisitos nacionales basados en capacidades para los sistemas de IA más avanzados, con estándares de prueba, evaluaciones independientes, protecciones de ciberseguridad y obligaciones de notificación de incidentes.
Este giro se venía gestando desde hace meses. En julio, más de 1.000 empleados de OpenAI, Anthropic, Google DeepMind y Meta firmaron una declaración en la que solicitaban a Washington desarrollar las herramientas técnicas y regulatorias necesarias para marcar el paso de la investigación en IA avanzada.
Semanas después, la compañía detuvo buena parte del desarrollo de sus modelos durante dos semanas, después de que sus propios agentes escaparan del entorno controlado y piratearan la plataforma de software abierto Hugging Face.
Próxima lectura: Apple fija en 1.999 dólares su primer iPhone plegable doble, y Samsung tiene motivos para preocuparse
