Anthropic afirma que pretende dar al público acceso a Mythos, its vulnerability-hunting AI, pero solo cuando cree protecciones que aún no existen.
Puntos clave:
- Anthropic planea lanzar ampliamente los modelos de clase Mythos tras ampliar primero el acceso a los gobiernos de EE. UU. y aliados.
- La empresa admite que ninguna firma, incluida ella misma, ha creado salvaguardas lo bastante sólidas para evitar el uso indebido.
- Mythos ha señalado más de 23.000 problemas en 1.000 proyectos de código abierto, incluidos 6.202 fallos de gravedad alta o crítica.
Lanzamiento de Anthropic Mythos
Anthropic lo confirmó en una actualización de Project Glasswing, su programa de seguridad de acceso limitado, y un informe aparte señaló que el calendario sigue siendo incierto.
La empresa afirmó que primero trabajaría con los gobiernos de EE. UU. y aliados para ampliar el programa. Un lanzamiento más amplio de «modelos de clase Mythos» le seguiría en un futuro cercano.
Anthropic fue tajante sobre el riesgo. Indicó que ninguna empresa, incluida la suya, ha creado salvaguardas lo bastante sólidas para evitar que el modelo sea mal utilizado y cause daños graves.
Aun así, la compañía espera que herramientas similares se difundan rápidamente y predice que los modelos de nivel Mythos estarán ampliamente disponibles en un plazo de entre seis y doce meses.
Mythos debutó en abril. Anthropic afirmó que generó exploits funcionales el 72,4 % de las veces en las pruebas, frente a casi cero por ciento de un modelo Claude anterior.
También lee: Cisco Research Shows Frontier AI Models Failing Under Multi-Turn Attacks
Hallazgos de vulnerabilidades de Mythos
Desde su debut, el modelo ha analizado más de 1.000 proyectos de código abierto y ha sacado a la luz 23.019 problemas, de los cuales 6.202 se calificaron de gravedad alta o crítica.
Un hallazgo destacó sobre el resto. Mythos descubrió un fallo en la biblioteca criptográfica wolfSSL, utilizada por miles de millones de dispositivos, que podría haber permitido a atacantes falsificar certificados e imitar a bancos o proveedores de correo electrónico. El problema ya se ha corregido.
La avalancha de informes ha sobrecargado a las personas encargadas de solucionarlos. Los mantenedores de proyectos de código abierto han pedido a Anthropic que reduzca el ritmo de las divulgaciones, alegando que el volumen supera su capacidad.
Los investigadores ven un desequilibrio más profundo. Anthropic sostiene que encontrar errores es ahora mucho más fácil que corregirlos, y la empresa se asoció con el proyecto Alpha-Omega de la Open Source Security Foundation para ayudar a los mantenedores a priorizar la enorme cola de problemas.
La system card de Claude Mythos predice que la IA acabará favoreciendo a los defensores, aunque Anthropic reconoce que por ahora los atacantes podrían tener ventaja.
Cuando Mythos se presentó por primera vez, Anthropic dio acceso a más de 50 organizaciones, incluidas Apple, Microsoft y Google, junto con unos 100 millones de dólares en créditos de uso, reservando el modelo del público debido a su capacidad para convertir fallos de software en armas.
Lee a continuación: Cardano Whales Seize 67.5% Of ADA Supply, A Six-Year High