Demis Hassabis, cofundador de Google DeepMind, advirtió el miércoles de que los recientes ciberataques perpetrados por agentes de inteligencia artificial fuera de control son solo disparos de advertencia, y que, sin salvaguardas más estrictas, podrían registrarse incidentes de gran calado en un horizonte de dos años.
Claves:
- Hassabis considera que los recientes ataques de agentes de IA son avisos tempranos de sistemas que aún no son especialmente potentes.
- Alertó de que podrían producirse incidentes graves en los próximos años si empresas y gobiernos no refuerzan la seguridad de estos sistemas.
- El presidente de Microsoft, Brad Smith, reclamó leyes de IA sensatas y equilibradas tras lo que calificó como un año preocupante.
La advertencia de Hassabis en Dublín
Hassabis, presidente de DeepMind y científico jefe de Alphabet, la matriz de Google, afirmó en la Cumbre Internacional sobre IA de Dublín que los incidentes se han originado en sistemas que «todavía no son tan potentes». Advirtió de que esta situación podría cambiar el próximo año y en los siguientes si el sector, las compañías y los gobiernos no dan pasos adicionales para blindarlos. Las cuestiones de seguridad dominaron el encuentro.
Desde hace meses, la comunidad investigadora viene alertando sobre los riesgos de los agentes de IA que operan sin control.
Entre los casos recientes figuran intrusiones en redes corporativas y, más recientemente, la revelación de Anthropic de que uno de sus modelos remitió a la policía una pista falsa sobre un homicidio. Hassabis sostuvo que la industria aún tiene «mucho trabajo por hacer» antes de equiparar sus prácticas de seguridad a las de sectores críticos como el biotecnológico o el nuclear. A su juicio, será necesario crear algún tipo de organismo internacional de estándares que certifique estos sistemas, aunque su proceso de homologación debe ser proporcional al riesgo y capaz de adaptarse con rapidez a la evolución tecnológica.
También te puede interesar: Francia podría gravar los intercambios de stablecoins al 31,4 %, Chainalysis alerta de una fuga al exterior
La presión regulatoria de Brad Smith
El presidente de Microsoft, Brad Smith, declaró en la conferencia que el comportamiento imprevisible de algunos sistemas de IA ha convertido 2026 en un «año inquietante» y que las normas de seguridad deben ponerse al día con la innovación.
«Hoy hay más normas de seguridad para un cartón de leche que para la IA», señaló.
Smith defendió que ninguna empresa ni tecnología debería situarse por encima de la ley, pero insistió en que las nuevas reglas deben ser sensatas, equilibradas y respetuosas con la innovación. También citó un reciente informe de Anthropic que sugiere que modelos de IA relativamente pequeños podrían estar a solo meses de ser capaces de replicarse de un dispositivo conectado a internet a otro, de forma similar a los gusanos informáticos. «No quiero gusanos de IA en mi frigorífico», ironizó.
En la víspera de la cumbre, Smith reclamó la introducción de «frenos de seguridad» que permitan a los usuarios detener o ralentizar la actuación de los agentes de IA, junto con la obligación de notificar incidentes y someter los modelos a pruebas más rigurosas antes de su lanzamiento. Añadió que parte del sector debe superar su «alergia» a la regulación.
Las declaraciones en Dublín se apoyan en la hoja de ruta que Hassabis esbozó el 14 de julio, cuando describió los riesgos de ciberataques impulsados por IA como «señales de aviso» y pidió a Estados Unidos la creación de un supervisor específico para los modelos más avanzados. Inspirado en el regulador bursátil FINRA de Wall Street, este organismo permitiría a los laboratorios compartir sus modelos hasta 30 días antes de su lanzamiento para someterlos a pruebas sobre capacidades cibernéticas, biológicas y de manipulación. Hassabis expresó su deseo de que el mecanismo esté operativo antes de final de año.
Lee también: MNX abre apuestas pre-OPV sobre las valoraciones de OpenAI y Anthropic, sin necesitar acciones
