Las agencias de Five Eyes advirtieron que la IA de frontera podría remodelar los ciberataques en cuestión de meses, lo que empuja a gobiernos y empresas a tratar la resiliencia como un riesgo de liderazgo.
Puntos clave:
- Las agencias de Five Eyes dijeron que la IA de frontera podría alterar la ofensiva y la defensa cibernética en cuestión de meses.
- La advertencia siguió a los límites de EE. UU. al acceso extranjero a los modelos Anthropic Fable y Mythos.
- Los sistemas de IA más nuevos pueden encontrar y explotar vulnerabilidades más rápido.
Advertencia de Five Eyes
Las agencias de inteligencia de señales de Australia, Estados Unidos, Reino Unido, Nueva Zelanda y Canadá emitieron la inusual declaración pública el lunes por la noche en Sídney, instando a los líderes a actuar ahora.
La advertencia siguió a la decisión de junio del gobierno de Donald Trump de bloquear a ciudadanos extranjeros el uso del modelo Fable de Anthropic, al tiempo que suspendía el acceso a Mythos.
Las agencias dijeron que la IA mejorará la ciberdefensa con el tiempo, pero también aumenta la velocidad, la escala y la sofisticación de los ataques.
“Se prevé que los modelos de IA de frontera superen las expectativas actuales de la industria, transformando fundamentalmente tanto las capacidades cibernéticas ofensivas como defensivas. El calendario no es de años, es de meses”, decía el comunicado.
El riesgo cibernético ya no puede recaer solo en los equipos técnicos.
También leer: Ripple obtiene aprobación preliminar de MiCA mientras se intensifica la carrera cripto en la UE
Riesgo de la IA de Anthropic
La IA generativa puede encontrar debilidades en los sistemas de ciberseguridad, ayudar a explotarlas y ayudar a solucionarlas, lo que convierte a la misma herramienta en útil tanto para defensores como para atacantes.
Olivia Shen, experta en seguridad nacional e IA en el United States Studies Centre de la Universidad de Sídney, dijo que los sistemas más nuevos pueden generar exploits de manera más eficaz.
“Lo que diferencia a los últimos [modelos de IA] es que son muy buenos generando exploits”, dijo Shen.
Fable 5 de Anthropic ha atraído atención como una versión más orientada al público de Mythos, un sistema avanzado lanzado a principios de este año y limitado a usuarios verificados debido a preocupaciones de uso indebido.
“Creo que debemos anticipar que el próximo Mythos o el próximo Fable está a la vuelta de la esquina”, dijo Shen, y añadió que otros actores pueden estar desarrollando sistemas similares.
En marzo, el gobierno de Albanese firmó con Anthropic como la primera empresa en su plan nacional de IA, un acuerdo no vinculante centrado en el intercambio de avances y la seguridad.
La alianza Five Eyes se remonta al período posterior a la segunda guerra mundial, y sus advertencias públicas conjuntas son poco comunes, lo que convierte a esta declaración en una señal de que el riesgo cibernético de la IA ha ido más allá de la orientación técnica rutinaria.
Leer a continuación: El plan de anuncios de ChatGPT de $100.000 millones de OpenAI se enfrenta a una fría realidad en Cannes Lions