Anthropic publicó un informe a comienzos de junio de 2026 en el que pide a los principales laboratorios de inteligencia artificial que desarrollen un mecanismo coordinado capaz de desacelerar o detener el advanced AI development si empeoran las condiciones de seguridad.
Puntos clave
- Anthropic publicó un informe advirtiendo que los sistemas de IA se están acercando a un umbral en el que podrían auto‑mejorarse de forma recursiva.
- La empresa instó a los principales laboratorios de IA a preparar un mecanismo coordinado para ralentizar o detener el desarrollo si se intensifican los riesgos de seguridad.
- Anthropic advirtió que el rápido progreso podría superar la capacidad humana para supervisar y corregir el comportamiento de la IA.
- El llamado se produce después de que se informara que el propio modelo Claude de Anthropic escribió partes de su propio código.
- El informe se suma a un debate político más amplio, mientras el Congreso de EE. UU. estudia nueva legislación sobre seguridad en IA.
Al Jazeera reported sobre el documento, que advierte que los sistemas de IA se están acercando a un umbral a partir del cual podrían diseñar y construir versiones mejoradas de sí mismos más rápido de lo que los ingenieros humanos pueden supervisar o intervenir. Anthropic describió esta dinámica de auto‑mejora recursiva como un riesgo material a corto plazo, no una preocupación especulativa a largo plazo.
Lo que dice el informe de Anthropic
La afirmación central es técnica y específica. Anthropic argues que las canalizaciones de entrenamiento de IA actuales ya permiten que los modelos contribuyan a su propia mejora de formas limitadas. Claude, el modelo insignia de la empresa, supuestamente escribió partes de su propio código durante los ciclos de desarrollo.
El informe no pide una detención inmediata. Pide preparación. Anthropic quiere que los laboratorios de frontera, incluido el suyo, acuerden de antemano los desencadenantes que activarían una pausa y que dispongan de la infraestructura lista para implementarla rápidamente.
El planteamiento es coherente con la posición pública más amplia de Anthropic. La empresa ha sostenido desde su fundación que desarrollar IA poderosa mientras se construyen simultáneamente barreras de seguridad es el camino responsable, una postura que denomina «escalado responsable». El nuevo informe sostiene, en esencia, que la parte de seguridad de esa ecuación debe avanzar más rápido.
El documento también plantea la cuestión de quién coordinaría tal pausa. No existe ningún organismo de gobernanza internacional con autoridad para hacer cumplir normas sobre el desarrollo de IA. El informe pide implícitamente una coordinación voluntaria entre empresas privadas, algo que los críticos han señalado como el modelo de aplicación más débil posible.
También lee: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
El contexto político en Washington
La advertencia de Anthropic llega en medio de un intenso debate en el Congreso. Un borrador de discusión bipartidista en la Cámara de Representantes que circula esta semana impondría requisitos de seguridad y auditorías independientes a los desarrolladores de IA más poderosos del país. El proyecto se dirige específicamente a los laboratorios de frontera, una categoría que incluye a Anthropic, OpenAI y Google DeepMind.
Otro proyecto de ley de IA más amplio fue aprobado por una comisión de la Cámara el 4 de junio de 2026. Esa legislación congelaría durante tres años las leyes estatales de protección al consumidor en materia de IA mientras se elaboran estándares federales.
La administración Trump ha añadido otra capa de complejidad. La Casa Blanca emitió esta semana una orden ejecutiva que crea una ventana voluntaria de revisión de 30 días para los modelos de IA de frontera, permitiendo a las agencias de seguridad nacional acceso anticipado antes de su despliegue público. Según informes, la administración también mantiene conversaciones con OpenAI sobre una posible participación accionarial del gobierno.
El llamado de Anthropic a un mecanismo de pausa encaja en este entorno tanto como una medida de estructuración del mercado como de seguridad. Si se establece un marco de pausa con respaldo gubernamental, probablemente favorecería a las empresas que ya están en la frontera, ya que los competidores más pequeños carecen de recursos para reanudar el desarrollo a gran escala tras una detención.
También lee: Trump Administration Eyes Government Stake in OpenAI
Reacciones y dinámicas del sector
El sector de la IA no ha acogido de forma unánime el enfoque de Anthropic. El director de IA de Microsoft, Mustafa Suleiman, declaró esta semana que Microsoft aspira a unirse al grupo de laboratorios de IA de primera línea de forma independiente, lo que sugiere que la empresa está centrada en la aceleración más que en la contención. Tencent contrató simultáneamente a un exinvestigador de OpenAI como director científico de IA para impulsar su propio esfuerzo hacia la AGI.
Esos dos hechos ilustran el problema de acción colectiva que identifica el informe de Anthropic. Una pausa unilateral de un laboratorio beneficia a los rivales que continúan el desarrollo. Sin una coordinación vinculante, el llamado a un mecanismo de pausa sigue siendo aspiracional.
Anthropic's $965 billion valuation, alcanzada tras una reciente ronda Serie H, le da margen financiero para absorber una desaceleración del desarrollo de una manera que los laboratorios más pequeños no pueden. Esa asimetría es relevante al evaluar la defensa de la seguridad que hace la empresa.
La publicación del informe también coincide con la competencia directa del modelo Claude de Anthropic con GPT‑5.5 y la familia Gemini de Google por contratos empresariales. La postura sobre seguridad puede ser un factor diferenciador comercial para clientes en sectores regulados.
Lee a continuación: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist