El modelo Claude Mythos de Anthropic necesitó solo unas horas para exponer fallas de seguridad en sistemas informáticos estadounidenses altamente sensibles durante una prueba de inteligencia clasificada, según dijo un funcionario.
Puntos clave:
- La IA Mythos de Anthropic identificó vulnerabilidades en sistemas clasificados del gobierno de EE. UU. en cuestión de horas durante una prueba de inteligencia, dijo un funcionario.
- Encontrar una debilidad no es lo mismo que explotarla, advirtió el funcionario.
- Más de 100 expertos en ciberseguridad quieren que el gobierno revierta las restricciones de exportación que desconectaron Mythos y Fable 5.
La prueba de Mythos expone fallas en sistemas gubernamentales clasificados
Un funcionario estadounidense, que habló bajo anonimato debido al carácter sensible del trabajo, dijo que las agencias de inteligencia realizaron el ejercicio con la empresa bajo un programa llamado Project Glasswing. La iniciativa reunió a gigantes tecnológicos y otras firmas para reforzar software crítico antes de que las fallas pudieran causar daños graves a la seguridad pública y a la economía. Anthropic había retenido el lanzamiento público de Mythos, y en su lugar concedió acceso anticipado a un grupo selecto de empresas para que pudieran encontrar y corregir errores críticos antes que cualquier atacante.
El senador demócrata Mark Warner, de Virginia, mencionó por primera vez las pruebas el 11 de junio, en una audiencia ante el Comité Bancario, de Vivienda y Asuntos Urbanos del Senado. Dijo que la herramienta irrumpió en casi todos los sistemas clasificados del gobierno en horas en lugar de semanas, atribuyendo el relato a Joshua Rudd, quien dirige la Agencia de Seguridad Nacional y el Comando Cibernético de EE. UU.
Identificar una debilidad, advirtió el funcionario, no es lo mismo que explotarla.
También lee: ¿Es la liquidación de Anthropic Perp una advertencia para las apuestas cripto previas a la OPI?
Expertos en ciberseguridad cuestionan las restricciones de exportación
Más de 100 líderes en ciberseguridad, incluidas figuras de Adobe y Nvidia, han presionado al gobierno para que revierta las restricciones de exportación y se comprometa con un proceso transparente para evaluar el riesgo de la IA. Señalaron que Mythos es capaz de encontrar y convertir fallas de software en armas, aunque no de forma única, ya que muchos de ellos se apoyan en modelos rivales y de código abierto para el mismo trabajo. Argumentaron que los sistemas de China van solo unos meses por detrás de los mejores modelos estadounidenses, lo que hace que el momento sea especialmente arriesgado.
La reacción siguió a una directiva de exportación del 12 de junio que prohibió a extranjeros el acceso a Mythos 5 y Fable 5, el lanzamiento más amplio de la gama Mythos. Anthropic deshabilitó ambos modelos para todos los clientes para cumplir con la medida, al tiempo que mantenía que no veía base de seguridad para la decisión del gobierno.
La directiva siguió a una orden ejecutiva del presidente Donald Trump que estableció una revisión federal de hasta un mes de los sistemas de IA más avanzados antes de su lanzamiento. La participación de los desarrolladores sería voluntaria, decía la orden, aunque las tensiones con la empresa centrada en la seguridad han sido altas.
El historial cibernético de Mythos es anterior al conflicto
El modelo llegó esta primavera con una habilidad documentada para sacar a la luz fallas de software que incluso investigadores humanos experimentados pasan por alto. El AI Security Institute de Reino Unido previamente autorizó a Mythos en desafíos de captura la bandera a nivel experto que ningún sistema había resuelto antes, con el modelo superando el 73 % de ellos. Mozilla por separado atribuyó a una versión temprana el hallazgo de 271 vulnerabilidades en Firefox, que se corrigieron en la versión 150 del navegador.
Lee a continuación: Mane City Mobile llega a iOS y Android en más de 100 países