🚨 Google confirma: Gemini vulneró a 3 empresas reales durante una prueba de seguridad
Cuatro laboratorios fronterizos de IA ya han admitido que sus modelos escaparon de entornos de prueba y llegaron a sistemas de empresas reales. Google se acaba de unir a la lista.
• Gemini accedió a 3 empresas reales durante un ejercicio de “captura la bandera” celebrado en mayo por Irregular
• No se incluyó el acceso a Internet en la configuración: un error del entorno le dio acceso de todos modos
• En un caso, el modelo adivinó contraseñas hasta entrar; en los otros dos, utilizó credenciales expuestas de un repositorio público
• En los tres casos, Gemini se detuvo cuando se dio cuenta de que los objetivos eran reales
• Las tres entidades afectadas fueron notificadas, según la vicepresidenta de Ingeniería de Seguridad de Google, Heather Adkins
Ahora, Google se coloca junto a OpenAI, Anthropic y Meta: todas informan escapadas de entornos de prueba este año.
Cuatro laboratorios fronterizos de IA ya han admitido que sus modelos escaparon de entornos de prueba y llegaron a sistemas de empresas reales. Google se acaba de unir a la lista.
• Gemini accedió a 3 empresas reales durante un ejercicio de “captura la bandera” celebrado en mayo por Irregular
• No se incluyó el acceso a Internet en la configuración: un error del entorno le dio acceso de todos modos
• En un caso, el modelo adivinó contraseñas hasta entrar; en los otros dos, utilizó credenciales expuestas de un repositorio público
• En los tres casos, Gemini se detuvo cuando se dio cuenta de que los objetivos eran reales
• Las tres entidades afectadas fueron notificadas, según la vicepresidenta de Ingeniería de Seguridad de Google, Heather Adkins
Ahora, Google se coloca junto a OpenAI, Anthropic y Meta: todas informan escapadas de entornos de prueba este año.