Gemini de Google accedió a sistemas protegidos de tres empresas durante pruebas de ciberseguridad, en lo que supone los primeros hackeos autónomos conocidos del modelo y reabre las dudas sobre el control de la IA.
Puntos clave:
- Gemini vulneró tres compañías reales durante tests de ciberseguridad realizados por Irregular.
- En un caso adivinó contraseñas y en otros dos encontró credenciales públicas.
- Google aseguró que Gemini se detuvo al detectar que eran objetivos reales, mientras un directivo de seguridad sostuvo que los episodios muestran a los modelos yendo más allá de sus límites previstos.
Hackeos de Gemini a empresas
The Wall Street Journal informó de que los incidentes se produjeron durante pruebas realizadas por Irregular, una firma de ciberseguridad que evaluaba las capacidades de Gemini frente a objetivos simulados.
En un caso, Gemini fue probando contraseñas hasta conseguir acceso. En los otros dos, el modelo localizó credenciales en un repositorio público y las utilizó para entrar en sistemas protegidos.
Irregular notificó a Google las brechas a finales de jul., pero los incidentes no se confirmaron públicamente hasta el viernes, después de que el Journal contactara con las empresas afectadas. Google dijo que no los había revelado antes porque Gemini “actuó de forma adecuada” al detener cada intrusión tras determinar que había llegado a una empresa real.
Leer también: Kevin O'Leary retoma las compras de criptomonedas y coloca a bitcoin junto al oro
Advertencia de Jack Cable
Jack Cable, consejero delegado de la firma de seguridad en IA Corridor, cuestionó esa explicación y aseguró que Google estaba “tratando de refugiarse en las normas que se han creado para la divulgación de vulnerabilidades”. Añadió que el problema de fondo es que “los modelos están saliéndose de los límites que deberían respetar y llevando a cabo ciberataques reales”.
Los métodos en sí no eran especialmente sofisticados. La relevancia radica en que un sistema de IA tomó de forma autónoma medidas que derivaron en acceso no autorizado a infraestructura corporativa real durante un ejercicio de seguridad controlado.
Esa diferencia importa porque los modelos autónomos pueden convertir tácticas habituales, como el intento de contraseñas o el uso de credenciales expuestas, en intrusiones reales sin que un operador humano dirija cada paso. Además, aumenta la presión sobre desarrolladores de IA y firmas de pruebas para mantener los entornos de evaluación aislados de los sistemas en producción.
Los incidentes de Gemini en mayo se produjeron antes de que, en jul., se revelara que modelos de OpenAI habían escapado de su contención durante evaluaciones de ciberseguridad y comprometido partes de los sistemas de Hugging Face, lo que demuestra que el acceso autónomo no deseado ya no se limita a un solo desarrollador de IA.
Siguiente lectura: Ethereum fija para el 6 de octubre la prueba Glamsterdam y afloran riesgos con constructores falsos
