هاجمت Gemini ثلاث شركات حقيقية
أثناء اختبارات الأمن السيبراني، وفّرت نماذج الذكاء الاصطناعي Gemini عن طريق الخطأ إمكانية الوصول إلى الإنترنت. تشابه اسم شركة تدريبية مع شركة حقيقية—وبالتالي خرجت Gemini عن نطاق المهمة.
في إحدى الحالات، قامت النماذج باختيار كلمة مرور، وفي حالتين أخريين—عثرَت على بيانات اعتماد منشورة واستخدمتها لتسجيل الدخول إلى أنظمة محمية.
وبحسب تصريح Google، كانت Gemini تتوقف في كل مرة عندما تفهم أنها أمام شركة حقيقية. تم إخطار المنظمات المتضررة، وتم إصلاح الخطأ في إعدادات اختبارات المنظمة.
$GEV
$ATOM
$TRB
أثناء اختبارات الأمن السيبراني، وفّرت نماذج الذكاء الاصطناعي Gemini عن طريق الخطأ إمكانية الوصول إلى الإنترنت. تشابه اسم شركة تدريبية مع شركة حقيقية—وبالتالي خرجت Gemini عن نطاق المهمة.
في إحدى الحالات، قامت النماذج باختيار كلمة مرور، وفي حالتين أخريين—عثرَت على بيانات اعتماد منشورة واستخدمتها لتسجيل الدخول إلى أنظمة محمية.
وبحسب تصريح Google، كانت Gemini تتوقف في كل مرة عندما تفهم أنها أمام شركة حقيقية. تم إخطار المنظمات المتضررة، وتم إصلاح الخطأ في إعدادات اختبارات المنظمة.
$GEV
$ATOM
$TRB