El director ejecutivo de Anthropic, Dario Amodei, ha pedido desacelerar el desarrollo de la inteligencia artificial mediante un plan de supervisión en tres frentes, una propuesta que ha recibido el respaldo de competidores pero que abre interrogantes sobre su aplicación, el impacto en la competencia y el coste económico.
Puntos clave:
- Amodei propone monitorización independiente de modelos, reglas sectoriales y regulación global.
- Sam Altman y Elon Musk apoyan la idea de una desaceleración, pero los críticos denuncian que el plan carece de límites exigibles.
- La rivalidad entre EE. UU. y China y la dependencia de la inversión en IA dificultan cualquier pausa coordinada.
Amodei pide frenar la IA
Amodei reclamó el 12 de septiembre que el ritmo de desarrollo de la IA se reduzca, una postura respaldada por el CEO de OpenAI, Sam Altman, y por Elon Musk. El exinvestigador de Anthropic Jacob Coxon declaró al medio británico que quienes construyen los sistemas más avanzados están “realmente asustados” por el futuro de la humanidad.
El ejecutivo plantea una supervisión independiente de los modelos durante su desarrollo, normas comunes para toda la industria y un marco regulatorio global. El esquema refuerza la capa de control, pero deja sin respuesta quién impondría los límites ni cómo se impediría que empresas y países rivales siguieran avanzando.
La carrera internacional es un obstáculo central, ya que Estados Unidos está volcado en mantener su ventaja frente a China, mientras las compañías temen que una pausa unilateral las deje rezagadas. El 13 de septiembre, el presidente Donald Trump afirmó que EE. UU. va por delante de China en IA. “Quien gane la IA, gana”, sentenció.
También puede interesarte: El bitcóin se mantiene cerca de 77.000 dólares y la señal de mercado alcista sigue sin confirmarse
Dudas sobre la aplicación: la crítica de Zitron
Ed Zitron, CEO de EZ Primary Research, considera que la propuesta es demasiado imprecisa como para evaluarla con rigor. “Nadie ha dado una explicación sustantiva de qué significa ‘desacelerar’”, afirmó, advirtiendo de que congelar el entrenamiento de modelos podría permitir que los laboratorios chinos recorten distancias y copien productos paralizados en Occidente.
Zitron alertó además de que un menor ritmo de desarrollo podría alterar los precios y dañar una economía de la IA ya frágil. “Esto podría pinchar la burbuja”, señaló, insistiendo en que el sector aún no dispone de una definición operativa de lo que sería una desaceleración.
La incertidumbre va más allá de la política de seguridad. El directivo de Synthesia Alexander Voica señaló que los reguladores todavía no saben cómo se utilizarán sistemas cada vez más potentes, y avisó de que precipitar la regulación “podría volverse en contra”. A su vez, la fundadora de Sustainable AI, Sasha Luccioni, dijo que le preocupan más los incentivos corporativos que el riesgo existencial en sí.
En el Reino Unido, la IA se impulsa en sanidad, en el mercado laboral y en la propia política económica, de modo que cualquier freno generalizado se plantea tanto como una cuestión de crecimiento como de seguridad. La informática Wendy Hall sostuvo que las empresas deben asumir la responsabilidad de mantener sus sistemas bajo control, comparando el problema con un granjero incapaz de contener a un toro destructivo.
También hay escepticismo en el sentido contrario. El investigador del Capital Research Centre Parker Thayer denuncia un intento político de “regular la IA hasta hacerla desaparecer”, una acusación que la BBC describe como extrema y no probada. El debate se extiende ya a la seguridad, la competencia entre potencias, la inversión y la responsabilidad empresarial, sin un mecanismo compartido que determine hasta qué punto debe frenarse el desarrollo.
El giro resulta significativo porque la primera cumbre global sobre seguridad en IA, celebrada en Bletchley Park en noviembre de 2023, se centró sobre todo en riesgos extremos que muchos observadores veían entonces como lejanos. Tres años después, son los propios líderes de la IA quienes hablan en público de desacelerar, mientras persisten las mismas incógnitas sobre empleo, regulación y control.
Lee a continuación: DeepSeek y Moonshot presentaron como propias respuestas de Claude, según Anthropic
