Anthropic publicó un informe a inicios de junio de 2026 en el que pide a los principales laboratorios de inteligencia artificial que desarrollen un mecanismo coordinado capaz de desacelerar o detener el advanced AI development si las condiciones de seguridad se deterioran.
Puntos clave
- Anthropic publicó un informe advirtiendo que los sistemas de IA se están acercando a un umbral en el que podrían auto‑mejorarse de forma recursiva.
- La empresa instó a los principales laboratorios de IA a preparar un mecanismo coordinado para desacelerar o detener el desarrollo si los riesgos de seguridad se intensifican.
- Anthropic advirtió que el rápido progreso podría superar la capacidad humana para supervisar y corregir el comportamiento de la IA.
- El llamado se produce después de que el propio modelo Claude de Anthropic supuestamente escribiera partes de su propio código.
- El informe se suma a un debate político más amplio mientras el Congreso de EE. UU. considera nueva legislación sobre seguridad en IA.
Al Jazeera reported sobre el documento, que advierte que los sistemas de IA se están acercando a un umbral en el cual podrían diseñar y construir versiones mejoradas de sí mismos más rápido de lo que los ingenieros humanos pueden supervisar o intervenir. Anthropic describió esta dinámica de auto‑mejora recursiva como un riesgo material a corto plazo, no una preocupación especulativa a largo plazo.
Lo que dice el informe de Anthropic
La afirmación central es técnica y específica. Anthropic argues que los flujos de entrenamiento actuales de IA ya permiten que los modelos contribuyan a su propia mejora de formas limitadas. Claude, el modelo insignia de la empresa, supuestamente ha escrito partes de su propio código durante los ciclos de desarrollo.
El informe no pide una detención inmediata. Pide preparación. Anthropic quiere que los laboratorios de frontera, incluido el suyo, acuerden por adelantado disparadores que activarían una pausa y que tengan la infraestructura lista para implementarla rápidamente.
El encuadre es coherente con la postura pública más amplia de Anthropic. La empresa ha sostenido desde su fundación que desarrollar IA potente mientras se construyen simultáneamente barandillas de seguridad es el camino responsable, una posición que denomina «escalado responsable». El nuevo informe afirma, en esencia, que el lado de seguridad de esa ecuación debe avanzar más rápido.
El documento también plantea la cuestión de quién coordinaría esa pausa. No existe un organismo internacional de gobernanza con autoridad de cumplimiento sobre el desarrollo de la IA. El informe pide implícitamente una coordinación voluntaria entre empresas privadas, lo que los críticos han señalado como el modelo de cumplimiento más débil posible.
Also Read: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
El contexto político en Washington
La advertencia de Anthropic llega en medio de un debate congresual activo. Un borrador bipartidista que circula esta semana en la Cámara impondría mandatos de seguridad y auditorías independientes a los desarrolladores de IA más poderosos del país. El proyecto apunta específicamente a los laboratorios de frontera, una categoría que incluye a Anthropic, OpenAI y Google DeepMind.
Un proyecto de ley de IA separado y más amplio superó una votación en comisión de la Cámara el 4 de junio de 2026. Esa legislación congelaría durante tres años las leyes estatales de protección al consumidor relacionadas con IA mientras se desarrollan estándares federales.
La administración Trump ha añadido otra capa de complejidad. La Casa Blanca emitió esta semana una orden ejecutiva que crea una ventana de revisión voluntaria de 30 días para los modelos de IA de frontera, lo que permite a las agencias de seguridad nacional tener acceso anticipado antes del despliegue público. La administración también mantiene conversaciones, según se informa, con OpenAI sobre una posible participación accionaria del gobierno.
El llamado de Anthropic a un mecanismo de pausa encaja en este entorno tanto como un movimiento de estructuración de mercado como de seguridad. Si se establece un marco de pausa con respaldo gubernamental, probablemente favorecería a las empresas que ya están en la frontera, dado que los competidores más pequeños carecen de recursos para reanudar el desarrollo a escala tras una detención.
Also Read: Trump Administration Eyes Government Stake in OpenAI
Reacciones y dinámica del sector
El sector de la IA no ha acogido de forma unánime el planteamiento de Anthropic. El responsable de IA de Microsoft, Mustafa Suleiman, declaró esta semana que Microsoft aspira a unirse de forma independiente al grupo de laboratorios de IA de primera línea, lo que sugiere que la empresa está centrada en la aceleración más que en la contención. Tencent contrató simultáneamente a un exinvestigador de OpenAI como científico jefe de IA para impulsar su propio esfuerzo hacia la AGI.
Esos dos datos ilustran el problema de acción colectiva que identifica el informe de Anthropic. Una pausa unilateral por parte de un laboratorio beneficia a los rivales que continúan el desarrollo. Sin coordinación vinculante, el llamado a un mecanismo de pausa sigue siendo aspiracional.
Anthropic's $965 billion valuation, alcanzada tras una reciente ronda Serie H, le otorga margen financiero para soportar una desaceleración del desarrollo de una forma que los laboratorios más pequeños no pueden. Esa asimetría es relevante al evaluar la defensa que hace la empresa de la seguridad.
La publicación del informe también coincide con la competencia directa del modelo Claude de Anthropic con GPT‑5.5 y la familia Gemini de Google por contratos empresariales. La posición en materia de seguridad puede ser un diferenciador comercial para clientes en sectores regulados.
Read Next: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist