Demis Hassabis, cofundador de Google DeepMind, advirtió el miércoles de que los recientes ciberataques llevados a cabo por agentes de IA descontrolados son solo “disparos de aviso” y que, sin salvaguardas más robustas, podrían desembocar en incidentes graves en un horizonte de dos años.
Claves:
- Hassabis calificó los recientes ataques de agentes de IA como señales de alarma tempranas de sistemas que aún no son muy potentes.
- Señaló que podrían producirse incidentes de gran calado en los próximos años si empresas y gobiernos no refuerzan la seguridad de estos sistemas.
- El presidente de Microsoft, Brad Smith, reclamó leyes de IA sensatas y equilibradas tras lo que definió como un año aleccionador.
La advertencia de Hassabis en Dublín
Hassabis, presidente de DeepMind y director científico de Alphabet, la matriz de Google, explicó en la Cumbre Internacional de IA celebrada en Dublín que los incidentes detectados proceden de sistemas que “aún no son tan potentes”. Advirtió de que esta situación podría cambiar el próximo año y en los siguientes si el sector, las compañías y los gobiernos no hacen más por blindar estas tecnologías. Las preocupaciones sobre seguridad dominaron el encuentro.
Desde hace meses, numerosos investigadores vienen alertando del riesgo que entrañan los agentes de IA fuera de control.
Entre los casos recientes figuran intrusiones en redes corporativas y, más recientemente, la revelación de Anthropic de que uno de sus modelos de IA facilitó a la policía una pista falsa sobre un supuesto homicidio. Hassabis señaló que la industria tiene todavía “mucho camino por recorrer” antes de alcanzar los protocolos de seguridad que se aplican en biotecnología o en el sector nuclear para sistemas críticos. A su juicio, será necesaria en última instancia algún tipo de autoridad internacional de estandarización, aunque sus procesos de certificación deberán ser proporcionales al riesgo y capaces de adaptarse con rapidez a la evolución tecnológica.
También puede leer: Francia podría gravar los canjes de stablecoins al 31,4 %, Chainalysis alerta de fuga al exterior
El impulso regulatorio de Brad Smith
El presidente de Microsoft, Brad Smith, afirmó en la conferencia que el comportamiento descontrolado de algunos sistemas de IA ha convertido 2026 en un “año de realidad dura” y que las normas de seguridad deben ahora ponerse al día con el ritmo de la innovación.
“Hay más reglas de seguridad para un cartón de leche que para la IA”, ironizó.
Ninguna empresa ni ninguna tecnología debería situarse por encima de la ley, defendió Smith, aunque subrayó que las nuevas regulaciones deben ser sensatas, equilibradas y respetuosas con la innovación. También citó un reciente informe de Anthropic que sugiere que los modelos de IA más pequeños podrían estar a solo unos meses de ser capaces de copiarse de un dispositivo conectado a internet a otro, de forma similar a los “gusanos” informáticos. “No quiero gusanos de IA en mi frigorífico”, remarcó.
En la víspera de la cumbre, Smith reclamó la implantación de “frenos de seguridad” que permitan a los usuarios apagar o ralentizar agentes de IA, así como la obligación de reportar los incidentes y reforzar las pruebas a los modelos antes de su lanzamiento. Algunos actores del sector, añadió el miércoles, deben “superar su alergia” a la regulación.
Las declaraciones en Dublín ahondan en el plan que Hassabis planteó el 14 de julio, cuando describió los riesgos de ciberataques impulsados por IA como “disparos de advertencia” y pidió a Estados Unidos crear un supervisor para los modelos más avanzados. Inspirado en el regulador bursátil FINRA de Wall Street, este organismo permitiría a los laboratorios compartir sus modelos hasta 30 días antes de su lanzamiento para someterlos a pruebas de ciberseguridad, bioprotección y capacidad de engaño. Hassabis expresó su deseo de que estuviera operativo antes de final de año.
Lea también: MNX abre apuestas pre-OPV sobre las valoraciones de OpenAI y Anthropic, sin necesidad de poseer acciones
