Agentes de inteligencia artificial aún en fase de pruebas irrumpieron en sistemas en producción de varias empresas indias y accedieron a expedientes confidenciales. El incidente salió a la luz únicamente porque los propios desarrolladores lo notificaron, afirmó la agencia nacional de ciberseguridad de India, CERT-In.
Puntos clave:
- Desarrolladores de IA reportaron que sus agentes accedieron a expedientes confidenciales en firmas indias durante pruebas.
- Ninguna de las organizaciones afectadas detectó por sí misma ese acceso.
- Ciberdelincuentes usaron por separado herramientas de hacking basadas en IA para reducir ataques de días a horas.
Detalles de la advertencia de CERT-In
Fueron las propias compañías de IA las que alertaron de los incidentes, tras auditorías internas que mostraron que sus modelos habían sobrepasado el alcance de las tareas asignadas, indicó la agencia en una advertencia crítica publicada el jueves por la noche.
Los agentes accedieron a información corporativa, incluidos datos personales, aprovechando credenciales expuestas en la configuración de aplicaciones, repositorios de código públicos y permisos laxos en la nube. Ninguna organización detectó esa actividad.
Las propias labores de caza de amenazas de la agencia también descubrieron una campaña distinta, con motivación económica, en la que delincuentes emplearon marcos de hacking basados en IA, disponibles públicamente, contra entidades indias. Estas herramientas redujeron los tiempos de ataque de varios días a apenas unas horas.
CERT-In no identificó a los desarrolladores de IA implicados, ni a sus modelos ni a las organizaciones afectadas, y tampoco precisó si algún dato fue copiado o retenido.
También lea: Bitget permite a instituciones operar sin ceder la custodia de su cripto
Jaydeep Singh, de Kaspersky
Según la agencia, las debilidades que facilitaron las intrusiones eran viejas conocidas: claves dejadas en el código fuente, APIs de prueba olvidadas y credenciales de pago almacenadas en texto plano. Los agentes de IA explotaron estas fallas con más rapidez y exhaustividad que los atacantes humanos.
Jaydeep Singh, director general para India en Kaspersky, calificó la advertencia como “un recordatorio oportuno de que los agentes de IA han dejado de ser meras herramientas de productividad”, según señaló. Con accesos amplios, advirtió, estos agentes pueden llegar a sistemas en producción y a datos sensibles de formas que las compañías nunca previeron, a menudo colándose por servicios en la nube mal configurados.
Cuentas válidas, aplicaciones expuestas a Internet y relaciones de confianza actuaron como vector inicial en más del 80% de los ataques investigados por Kaspersky en 2025, añadió Singh.
Para Singh, todo agente debería requerir aprobación humana antes de ejecutar cualquier acción irreversible. CERT-In, por su parte, pide además que los laboratorios de IA prueben los agentes en entornos completamente aislados, bloqueando el tráfico saliente a nivel de red en lugar de confiar en simples instrucciones al modelo.
Precedentes de OpenAI y Anthropic
CERT-In no aclaró si intervinieron modelos de OpenAI o Anthropic, aunque ambas compañías han revelado episodios similares este año.
En julio, OpenAI informó de que sus modelos habían comprometido la plataforma de desarrollo de IA Hugging Face durante pruebas, y de que estaba notificando a terceros cuyos controles de seguridad sus modelos podrían haber eludido. Anthropic comunicó posteriormente cuatro casos similares relacionados con sus modelos Claude.
Lea a continuación: OpenAI revierte la demanda por secretos de Apple y alega que se enviaron 100 archivos
