Claude Mythos de Anthropic necesitó solo unas horas para exponer fallos de seguridad en sistemas informáticos de alta sensibilidad del gobierno de EE. UU. durante una prueba de inteligencia clasificada, según un funcionario.
Puntos clave:
- La IA Mythos de Anthropic identificó vulnerabilidades en sistemas clasificados del gobierno de EE. UU. en cuestión de horas durante una prueba de inteligencia, según un funcionario.
- Encontrar una debilidad no es lo mismo que explotarla, advirtió el funcionario.
- Más de 100 expertos en ciberseguridad quieren que el gobierno revierta las restricciones de exportación que dejaron fuera de línea a Mythos y Fable 5.
La prueba de Mythos expone fallos en sistemas gubernamentales clasificados
Un funcionario estadounidense, que habló bajo condición de anonimato debido a la sensibilidad del trabajo, dijo que las agencias de inteligencia llevaron a cabo el ejercicio con la empresa dentro de un programa llamado Project Glasswing. La iniciativa reunió a gigantes tecnológicos y otras firmas para reforzar software crítico antes de que los fallos pudieran causar daños graves a la seguridad pública y a la economía. Anthropic había retenido el lanzamiento público de Mythos y, en su lugar, concedió acceso anticipado a un grupo selecto de empresas para que pudieran encontrar y corregir errores críticos antes que cualquier atacante.
El senador demócrata Mark Warner, de Virginia, mencionó por primera vez las pruebas el 11 de junio, en una audiencia ante el Comité Bancario, de Vivienda y Asuntos Urbanos del Senado. Dijo que la herramienta irrumpió en casi todos los sistemas clasificados del gobierno en horas en lugar de semanas, atribuyendo el relato a Joshua Rudd, quien dirige la Agencia de Seguridad Nacional y el Mando Ciberespacial de EE. UU.
Identificar una debilidad, advirtió el funcionario, no es lo mismo que explotarla.
Lea también: ¿Es la venta masiva de Anthropic Perp una advertencia para las apuestas cripto pre-OPI?
Expertos en ciberseguridad cuestionan las restricciones de exportación
Más de 100 líderes en ciberseguridad, incluidas figuras de Adobe y Nvidia, han presionado al gobierno para que revierta las restricciones de exportación y se comprometa con un proceso transparente para evaluar el riesgo de la IA. Afirmaron que Mythos es capaz de encontrar y convertir en armas fallos de software, aunque no de forma única, ya que muchos de ellos se apoyan en modelos rivales y de código abierto para la misma labor. Argumentaron que los sistemas de China van solo unos meses por detrás de los mejores modelos estadounidenses, lo que hace que el momento sea especialmente arriesgado.
La reacción se produjo tras una directiva de exportación del 12 de junio que prohibió el acceso de ciudadanos extranjeros a Mythos 5 y Fable 5, el lanzamiento más amplio de la categoría Mythos. Anthropic desactivó ambos modelos para todos los clientes para cumplir la norma, al tiempo que mantenía que no veía una base de seguridad para la decisión del gobierno.
La directiva siguió a una orden ejecutiva del presidente Donald Trump que estableció una revisión federal de hasta un mes para los sistemas de IA más avanzados antes de su lanzamiento. La participación de los desarrolladores sería voluntaria, decía la orden, aunque las tensiones con la empresa enfocada en la seguridad han sido elevadas.
El historial cibernético de Mythos precede al enfrentamiento
El modelo apareció esta primavera con una habilidad documentada para sacar a la luz fallos de software que incluso investigadores humanos experimentados pasan por alto. El AI Security Institute del Reino Unido anteriormente aprobó a Mythos en desafíos de captura la bandera a nivel experto que ningún sistema había resuelto antes, con el modelo superando el 73 % de ellos. Mozilla por su parte atribuyó a una versión temprana el hallazgo de 271 vulnerabilidades en Firefox, que corrigió en la versión 150 del navegador.
Lea a continuación: Mane City Mobile llega a iOS y Android en más de 100 países