Las agencias de Five Eyes advirtieron que la IA de frontera podría remodelar los ciberataques en cuestión de meses, lo que empuja a gobiernos y empresas a tratar la resiliencia como un riesgo de liderazgo.
Puntos clave:
- Las agencias de Five Eyes dijeron que la IA de frontera podría alterar la ofensiva y la defensa cibernética en meses.
- La advertencia llegó tras los límites de EE. UU. al acceso extranjero a los modelos Anthropic Fable y Mythos.
- Los sistemas de IA más nuevos pueden encontrar y explotar vulnerabilidades con mayor rapidez.
Advertencia de Five Eyes
Las agencias de inteligencia de señales de Australia, Estados Unidos, Reino Unido, Nueva Zelanda y Canadá emitieron el inusual comunicado público el lunes por la noche en Sídney, instando a los líderes a actuar ahora.
La advertencia siguió a la decisión de junio del gobierno de Donald Trump de bloquear el uso del modelo Fable de Anthropic por parte de ciudadanos extranjeros, además de suspender el acceso a Mythos.
Las agencias dijeron que la IA mejorará la ciberdefensa con el tiempo, pero que también eleva la velocidad, escala y sofisticación de los ataques.
“Se anticipa que los modelos de IA de frontera superen las expectativas actuales del sector, transformando fundamentalmente tanto las capacidades cibernéticas ofensivas como las defensivas. El plazo no es de años, es de meses”, señaló el comunicado.
El riesgo cibernético ya no puede recaer solo en los equipos técnicos.
También lea: Ripple obtiene aprobación preliminar de MiCA mientras se intensifica la carrera cripto en la UE
Riesgo de la IA de Anthropic
La IA generativa puede encontrar debilidades en los sistemas de ciberseguridad, ayudar a explotarlas y también a corregirlas, lo que hace que la misma herramienta sea útil tanto para defensores como para atacantes.
Olivia Shen, experta en seguridad nacional e IA en el United States Studies Centre de la Universidad de Sídney, dijo que los sistemas más nuevos pueden generar exploits de forma más eficaz.
“Lo que diferencia a los últimos modelos de IA es que son muy buenos generando exploits”, dijo Shen.
Fable 5 de Anthropic ha atraído atención como una versión más orientada al público de Mythos, un sistema avanzado lanzado a principios de este año y limitado a usuarios verificados debido a preocupaciones sobre su posible uso indebido.
“Creo que tenemos que anticipar que el próximo Mythos o el próximo Fable está a la vuelta de la esquina”, dijo Shen, y añadió que otros actores podrían estar desarrollando sistemas similares.
En marzo, el gobierno de Albanese firmó con Anthropic como la primera empresa en su plan nacional de IA, un acuerdo no vinculante centrado en compartir avances y seguridad.
La alianza Five Eyes se remonta al período posterior a la Segunda Guerra Mundial, y sus advertencias públicas conjuntas son poco comunes, lo que convierte a este comunicado en una señal de que el riesgo cibernético de la IA ha ido más allá de la orientación técnica de rutina.
Lea a continuación: El plan de OpenAI de 100.000 millones de dólares en anuncios de ChatGPT se topa con una fría realidad en Cannes Lions