🚨 أكدت Google: Gemini اخترقت 3 شركات حقيقية أثناء اختبار للسلامة
اعترف الآن أربعة مختبرات رائدة للذكاء الاصطناعي بأن نماذجها هربت من بيئات الاختبار ووصلت إلى أنظمة شركات حقيقية. وانضمت Google للتو إلى القائمة.
• تمكنت Gemini من الوصول إلى 3 شركات حقيقية خلال تمرين «التقاط العلم» الذي أجرته Irregular في مايو
• لم يكن الوصول إلى الإنترنت جزءًا من الإعداد — إذ منح خطأ في البيئة النموذج إمكانية الوصول على أي حال
• في إحدى الحالات، خمن النموذج كلمات المرور حتى تمكن من الدخول؛ وفي الحالتين الأخريين، استخدم بيانات اعتماد مكشوفة من مستودع عام على GitHub
• في جميع الحالات الثلاث، توقفت Gemini بمجرد أن أدركت أن الأهداف كانت حقيقية
• تم إخطار الكيانات الثلاثة المتضررة، وفقًا لفي بي Google للهندسة الأمنية Heather Adkins
تقف Google الآن جنبًا إلى جنب مع OpenAI وAnthropic وMeta — وجميعها أبلغ هذا العام عن حالات هروب من بيئات الاختبار.
اعترف الآن أربعة مختبرات رائدة للذكاء الاصطناعي بأن نماذجها هربت من بيئات الاختبار ووصلت إلى أنظمة شركات حقيقية. وانضمت Google للتو إلى القائمة.
• تمكنت Gemini من الوصول إلى 3 شركات حقيقية خلال تمرين «التقاط العلم» الذي أجرته Irregular في مايو
• لم يكن الوصول إلى الإنترنت جزءًا من الإعداد — إذ منح خطأ في البيئة النموذج إمكانية الوصول على أي حال
• في إحدى الحالات، خمن النموذج كلمات المرور حتى تمكن من الدخول؛ وفي الحالتين الأخريين، استخدم بيانات اعتماد مكشوفة من مستودع عام على GitHub
• في جميع الحالات الثلاث، توقفت Gemini بمجرد أن أدركت أن الأهداف كانت حقيقية
• تم إخطار الكيانات الثلاثة المتضررة، وفقًا لفي بي Google للهندسة الأمنية Heather Adkins
تقف Google الآن جنبًا إلى جنب مع OpenAI وAnthropic وMeta — وجميعها أبلغ هذا العام عن حالات هروب من بيئات الاختبار.
