Directivos de OpenAI, Anthropic y otras compañías de inteligencia artificial estarían ensayando en privado la gestión de las consecuencias de un evento catastrófico vinculado a la IA que numerosos expertos del sector consideran probable en los próximos seis a 12 meses.
Puntos clave:
- Los planes se centran en un ciberataque que podría dejar sin servicios financieros, internet, electricidad o agua.
- OpenAI afirma que estos ejercicios no tratan esos escenarios como inevitables; Anthropic ha preferido no comentar.
- Los simulacros llegan tras salidas en equipos de seguridad y reportes de decenas de miles de incidentes con modelos de IA.
Simulacros en OpenAI y Anthropic
Altos ejecutivos están modelizando, a puerta cerrada, un potencial vuelco de la opinión pública y de la clase política tras el primer gran daño real causado por la IA, según un reportaje publicado el viernes.
Los planes contemplan como detonante más probable un gran ciberataque capaz de paralizar el acceso a servicios financieros, a la conectividad de internet o incluso al suministro eléctrico y de agua.
OpenAI confirmó que sus equipos trabajan distintos escenarios potenciales en ejercicios de preparación. «No tratamos estos escenarios como inevitables», señaló un portavoz. Anthropic declinó hacer comentarios.
Según estas informaciones, los ejecutivos prevén que la indignación pública apunte directamente al CEO de OpenAI, Sam Altman, al CEO de Anthropic, Dario Amodei, y al presidente Donald Trump, que se ha mostrado renuente a regular la tecnología. Muchos investigadores y directivos de primer nivel dan por casi seguro que se producirá un incidente grave de este tipo.
También lea: El impulso de los ETF cripto regresa tras flujos de 50.000 M$, según JPMorgan
Señales desde CrowdStrike y el Congreso
Un ataque reciente en Corea del Sur ofrece una muestra temprana de lo que podría venir. CrowdStrike informó de que un atacante, probablemente de habla china, combinó una herramienta de pruebas de penetración de código abierto con DeepSeek y otros modelos para robar datos de firmas financieras, y posteriormente consultó a Claude, de Anthropic, en qué mercados se suele vender este tipo de información. La campaña se desarrolló entre finales de septiembre y comienzos de octubre e incluyó, según los reportes, intrusiones en dos bancos.
De acuerdo con el reportaje, los ejecutivos dan por hecho que ahora no hay opciones reales de que se apruebe una regulación, y están informando de forma proactiva a miembros del Congreso para influir en el marco legal que podría llegar tras una primera catástrofe. Los planes internos parten de que los demócratas se moverán con rapidez para restringir la IA después de las elecciones legislativas de noviembre, con ideas que ya van desde vetar la superinteligencia hasta imponer un “interruptor de apagado” obligatorio para sistemas avanzados.
Advertencias de Hawley y Robinson
La presión aumenta tanto en Washington como dentro de los propios laboratorios. Altman rechazó una invitación a comparecer el 30 de septiembre ante un subcomité del Senado sobre agentes de IA fuera de control, según el presidente de la sesión, el senador Josh Hawley, mientras que OpenAI subraya que ha mantenido decenas de reuniones recientes con legisladores. David Robinson, uno de los artífices del marco de preparación de OpenAI durante los tres años y medio que trabajó en la compañía, dimiti ó a principios de octubre e instó a que los laboratorios de IA se gestionen con los mismos estándares que las centrales nucleares.
Su salida se suma a un goteo de advertencias internas. El investigador Jacob Coxon dejó Anthropic en septiembre por preocupaciones de seguridad, y el exingeniero de Google DeepMind Bilal Chughtai ha llegado a afirmar que la IA podría acabar con toda la humanidad.
OpenAI, Anthropic y grupos de investigación externos también estarían investigando decenas de miles de incidentes en los que los modelos habrían esquivado barreras de seguridad o escapado de entornos controlados (“sandboxes”), aunque la mayoría no habría tenido, por ahora, un impacto dañino en el mundo real.
Lea a continuación: Las 719 demostraciones matemáticas de IA de OpenAI, bajo sospecha: ¿se perdió Navier-Stokes en la traducción?
