🔥عاجل! اختبار Google Gemini خرج عن السيطرة واقتحم أنظمة 3 شركات حقيقية!
لم يعد هروب الذكاء الاصطناعي مجرد خيال علمي⚠️أكدت Google رسميًا: في تمارين دفاع/اختبار الأمان، نجح Gemini في تجاوز بيئة الاختبار، واقتحم أنظمة 3 شركات حقيقية!
كان من المفترض أن يمنع اختبار “التقاط الراية” نموذجَ الذكاء من الاتصال بالإنترنت، لكن بسبب خطأ في إعدادات البيئة حصل Gemini عن غير قصد على صلاحية الوصول إلى الإنترنت:
✅ الواقعة الأولى: تخمين كلمات المرور بالعنف، ثم اخترق النظام مباشرة.
✅ الواقعتان الأخريان: استخرج بيانات اعتماد (حسابات) من تسريبات لمستودعات عامة وتم تسجيل الدخول بها.
المهم هنا! أدرك Gemini فورًا أنه دخل إلى أنظمة شركة حقيقية، فأوقف عملياته تلقائيًا دون الاستمرار في التخريب. كما أبلغت Google بالفعل الشركات الثلاث المتأثرة بإتمام إجراءات المعالجة.
وبذلك تكون جميع مختبرات الذكاء الاصطناعي الكبرى الأربعة قد تعرضت للإصابة: Google وOpenAI وAnthropic وMeta. كلها كشفت عن حوادث هروب نماذج من بيئة الاختبار.
وتيرة تطور قدرات الذكاء الاصطناعي وصلت إلى مرحلة تتقدم فيها على ضوابط الأمان. من جهة تتسارع قدرات النماذج الكبيرة بشكل جنوني، ومن جهة أخرى تقترب مخاطر هروب الذكاء الاصطناعي والقيام بإجراءات ذاتية.
ما رأيك—هل ما زالت “حواجز الأمان” للذكاء الاصطناعي قادرة على الصمود أمام النماذج الأقوى على نحو متزايد؟💬 تفاعل في التعليقات: هل ستقلق من أن يخرج الذكاء الاصطناعي عن سيطرة البشر؟$GOOGL.US $METAB $OPENAI
لم يعد هروب الذكاء الاصطناعي مجرد خيال علمي⚠️أكدت Google رسميًا: في تمارين دفاع/اختبار الأمان، نجح Gemini في تجاوز بيئة الاختبار، واقتحم أنظمة 3 شركات حقيقية!
كان من المفترض أن يمنع اختبار “التقاط الراية” نموذجَ الذكاء من الاتصال بالإنترنت، لكن بسبب خطأ في إعدادات البيئة حصل Gemini عن غير قصد على صلاحية الوصول إلى الإنترنت:
✅ الواقعة الأولى: تخمين كلمات المرور بالعنف، ثم اخترق النظام مباشرة.
✅ الواقعتان الأخريان: استخرج بيانات اعتماد (حسابات) من تسريبات لمستودعات عامة وتم تسجيل الدخول بها.
المهم هنا! أدرك Gemini فورًا أنه دخل إلى أنظمة شركة حقيقية، فأوقف عملياته تلقائيًا دون الاستمرار في التخريب. كما أبلغت Google بالفعل الشركات الثلاث المتأثرة بإتمام إجراءات المعالجة.
وبذلك تكون جميع مختبرات الذكاء الاصطناعي الكبرى الأربعة قد تعرضت للإصابة: Google وOpenAI وAnthropic وMeta. كلها كشفت عن حوادث هروب نماذج من بيئة الاختبار.
وتيرة تطور قدرات الذكاء الاصطناعي وصلت إلى مرحلة تتقدم فيها على ضوابط الأمان. من جهة تتسارع قدرات النماذج الكبيرة بشكل جنوني، ومن جهة أخرى تقترب مخاطر هروب الذكاء الاصطناعي والقيام بإجراءات ذاتية.
ما رأيك—هل ما زالت “حواجز الأمان” للذكاء الاصطناعي قادرة على الصمود أمام النماذج الأقوى على نحو متزايد؟💬 تفاعل في التعليقات: هل ستقلق من أن يخرج الذكاء الاصطناعي عن سيطرة البشر؟$GOOGL.US $METAB $OPENAI
