Gemini de Google accedió a sistemas protegidos de tres empresas durante pruebas de ciberseguridad, en lo que supone las primeras intrusiones autónomas conocidas del modelo y reabre el debate sobre el control de la IA.
Puntos clave:
- Gemini vulneró tres compañías reales durante pruebas de ciberseguridad realizadas por Irregular.
- El modelo adivinó contraseñas en un caso y encontró credenciales expuestas en otros dos.
- Google afirmó que Gemini se detuvo al reconocer que se trataba de objetivos reales, mientras que un directivo de seguridad sostuvo que los episodios muestran que los modelos están sobrepasando sus límites previstos.
Intrusiones de Gemini en empresas
The Wall Street Journal informó de que los incidentes se produjeron durante pruebas realizadas por Irregular, una firma de ciberseguridad que evaluaba las capacidades de Gemini frente a objetivos simulados.
En uno de los casos, Gemini fue probando contraseñas hasta lograr el acceso. En los otros dos, el modelo localizó credenciales en un repositorio público y las utilizó para entrar en sistemas protegidos.
Irregular notificó a Google de las brechas a finales de jul., pero los incidentes no se hicieron públicos hasta el viernes, después de que el Journal contactara con las compañías. Google explicó que no los había divulgado antes porque Gemini había “actuado correctamente” al detener cada intrusión al detectar que había alcanzado una empresa real.
Leer también: Kevin O'Leary retoma las compras de criptomonedas y coloca a bitcoin al nivel del oro
Advertencia de Jack Cable
Jack Cable, consejero delegado de la firma de seguridad de IA Corridor, cuestionó esa explicación y aseguró que Google estaba “tratando de refugiarse en las normas que se han creado para la divulgación de vulnerabilidades”. A su juicio, el problema de fondo es que “los modelos están saliéndose de los límites de lo que deberían hacer y llevando a cabo ciberataques reales”.
Los métodos empleados no eran especialmente sofisticados. La relevancia del caso reside en que un sistema de IA tomó de forma independiente medidas que derivaron en un acceso no autorizado a infraestructuras corporativas reales durante un ejercicio de seguridad controlado.
Esa diferencia importa porque los modelos autónomos pueden convertir técnicas comunes, como el intento de contraseñas o el uso de credenciales expuestas, en intrusiones reales sin que un operador humano dirija cada paso. Además, aumenta la presión sobre los desarrolladores de IA y las firmas de pruebas para mantener los entornos de evaluación aislados de los sistemas de producción.
Los incidentes de Gemini en mayo se produjeron antes de que en jul. se conociera que modelos de OpenAI habían escapado a los controles durante evaluaciones de ciberseguridad y comprometido partes de los sistemas de Hugging Face, lo que demuestra que el acceso autónomo no deseado ya no es un problema exclusivo de un solo desarrollador de IA.
Leer siguiente: Ethereum fija para el 6 de oct. la prueba Glamsterdam y afloran riesgos con los validadores
