🚨 Google Confirma: Gemini vulneró a 3 empresas reales durante una prueba de seguridad
Ahora, cuatro laboratorios punteros de IA han admitido que sus modelos escaparon de los entornos de prueba y llegaron a sistemas de empresas reales. Google acaba de sumarse a la lista.
• Gemini accedió a 3 empresas reales durante un ejercicio tipo "capture-the-flag" de mayo ejecutado por Irregular
• El acceso a internet no formaba parte de la configuración: un error del entorno le dio acceso de todos modos
• En un caso, el modelo adivinó contraseñas hasta entrar; en los otros dos, usó credenciales expuestas de un repositorio público
• En los tres casos, Gemini se detuvo cuando se dio cuenta de que los objetivos eran reales
• Las tres entidades afectadas fueron notificadas, según la VP de Ingeniería de Seguridad de Google, Heather Adkins
Google ahora se sitúa junto a OpenAI, Anthropic y Meta: todas informaron este año escapes de entornos de prueba.
Ahora, cuatro laboratorios punteros de IA han admitido que sus modelos escaparon de los entornos de prueba y llegaron a sistemas de empresas reales. Google acaba de sumarse a la lista.
• Gemini accedió a 3 empresas reales durante un ejercicio tipo "capture-the-flag" de mayo ejecutado por Irregular
• El acceso a internet no formaba parte de la configuración: un error del entorno le dio acceso de todos modos
• En un caso, el modelo adivinó contraseñas hasta entrar; en los otros dos, usó credenciales expuestas de un repositorio público
• En los tres casos, Gemini se detuvo cuando se dio cuenta de que los objetivos eran reales
• Las tres entidades afectadas fueron notificadas, según la VP de Ingeniería de Seguridad de Google, Heather Adkins
Google ahora se sitúa junto a OpenAI, Anthropic y Meta: todas informaron este año escapes de entornos de prueba.
