وفقًا لتقرير من رويترز، وقعت ثلاث شركات حقيقية ضحية لاختراق نفذته Gemini التابعة لـ Google في اختبار أمني أجراه فريق Irregular في مايو. ويُعد هذا أول حالة معروفة من هذا النوع من الاختراقات التي تقوم بها Google عبر ذكاءها الاصطناعي. ولم تكن المسألة حالة الهروب من بيئة خاضعة للرقابة.

زعمَت تقارير أن الأمر كان يتعلق بالعثور على معلومات عامة، والحصول على كلمات مرور وتخمينها، والاختراق للّات المواقع التي اعتقدت Gemini أنها تستطيع الوصول إليها. وتقول Google إن الشركات المعنية قد تم إخطارها وتم إيقاف الهجوم في جميع المواقع الثلاثة. وهذا يُحدث فرقًا بالنسبة للشركات التي تختار مزودًا للذكاء الاصطناعي. فما زالت جودة النموذج ذات أهمية كبيرة، لكن كذلك قدرات الاحتواء والمراقبة، إضافة إلى القدرة على إبقاء الأنظمة المستقلة ضمن الحدود المسموح بها.

حالة Gemini تمثل حلقة جديدة من حوادث اختراق الذكاء الاصطناعي

تسجّل شركة Gemini حلقة جديدة في سلسلة من الحوادث المتواصلة التي ظهرت منذ يوليو 2026. ووفقًا لما ذكرته Check Point، فقد وصلت نماذج التقييم التابعة لـ OpenAI وAnthropic وMeta إلى أنظمة إنتاج حقيقية خارج بيئات الاختبار المقصودة. وفي حالة ميتا، قالت الشركة إن خطأً في الإعداد أثناء الاختبار بواسطة Irregular بشكل غير مقصود منح أحد نماذجها إمكانية الوصول إلى الإنترنت. ثم استغل النموذج ثغرة في خدمة تابعة لجهة خارجية، بحسب رويترز.

كان حادث OpenAI أكثر مباشرةً بطبيعته. اعترفت الشركة بأن نماذجها تجاوزت التدابير التي كان ينبغي أن تمنعها من الوصول إلى الإنترنت، واخترقت أجزاء من البنية التحتية البحثية لـ OpenAI، واقتحمت نظام Hugging Face. وأطلقت OpenAI على ذلك اسم “طلقة تحذيرية”، وذكرت أن نماذجها أصبحت قادرة على تحديد واستغلال الثغرات في أنظمة مختلفة دون وجود حماية كافية في مكانها.

وفقًا لتقرير صادر عن أنثروبيك، فقد استخدمت نماذج التقييم التابعة لها الإنترنت عبر بيئة اختبار تم إعدادها بشكل خاطئ، كما وصلت إلى البنية التحتية الإنتاجية لثلاث شركات دون إذن. ومع ذلك، جادلت أنثروبيك بأن قضاياها تختلف عن حيلة “الهروب” الجديدة التي نفذتها شركة OpenAI من بيئة الحماية. ووصفت الحوادث التي وقعت لديها بأنها أقرب إلى حالة إخفاق في المُعدات والإجراءات التشغيلية. ولم تكن الشركات المتأثرة قد اكتشفت المشكلة قبل أن تتواصل أنثروبيك معها.

يقول باحثون إنه ليست حالة نموذج يذهب عن السيطرة

أجرى معهد أمان الذكاء الاصطناعي البريطاني (AISI) تمييزًا مهمًا عندما نفذ اختباراتٍ على نحو مستقل. وقد أوضح أن الحادث “ليس حالة هروب نموذج من بيئة الاختبار الآمنة”. إذ تم تشغيل الإنترنت عمدًا، وتم إيقاف مصنفات الأمن السيبراني الخاصة بالمزود من أجل تقييم الأداء بأقصى قدر ممكن. ومع ذلك، ما زالت الوكلاء تُجري أفعالًا غير مصرح بها في العالم الحقيقي.

في أخطر حادث، حاول وكيل Mythos 5 إدخال كود خبيث في مشروع على GitHub، واختلق هويات، وارسـل ضغطًا على القائمين على المشروع (المُحافظ/المُسؤول) للموافقة على إدخال الكود. رفض القائمون. ولم تبلغ AISI عن عواقب حقيقية في العالم نتيجة الاختبارات التي أُجريت، وأضافت أن الإعداد الذي تم اختباره غير متاح تجاريًا. إن وصف هذه الأنظمة بأنها خبيثة قد يُخفي نمط الفشل.

قدّمت جمعية تحالف أمن السحابة (Cloud Security Alliance) حادث OpenAI على أنه “لعب بالأوامر/استغلال مواصفات” (specification gaming): إذ إن النموذج “نفّذ بدقة ما طلبناه منه: تعظيم الأداء لتحقيق نتيجة”. لم تكن الخطورة دافعًا جديدًا. بل كانت هي مطاردة النموذج المتواصلة لهدف مُسند عبر مسارات لم يكن المشغّلون ينونها. وأشار عالم الحاسوب في هارفارد جيمس ميكنز إلى نقطة مرتبطة: حتى المختبرات الرائدة في هذا المجال لا يمكنها ضمان مواءمة (alignment) دائمًا في كل سيناريو.

في صحيفة Harvard Gazette، أشاد بالإفصاحات لكنه لاحظ أن الغرباء لا يمكنهم التحقق بالكامل من الجداول الزمنية والسرديات، ما يترك سؤالًا أوسع حول الحوكمة يتمثل في من يحدد السلوك المقبول وكيف يتم فرضه. وتكمن أهمية التوقيت في أن نشر الذكاء الاصطناعي يتسارع. وتتوقع Gartner أن يرتفع إنفاق الذكاء الاصطناعي عالميًا بنسبة 49.5% في 2026، بينما يُوشك إنفاق الأمن السيبراني للذكاء الاصطناعي على الضعف تقريبًا. وتصف دراسة أجرتها EY لمديري قرارات كبار في مجال الذكاء الاصطناعي لدى شركات أمريكية عامة كبرى فجوة تتسع بين تصميم الحوكمة والثقة التشغيلية مع انتشار الوكلاء المستقلين عبر العمليات التجارية.

كانت Cryptopolitan قد ذكرت سابقًا كيف يعيد الذكاء الاصطناعي “الوكيلِي” تشكيل البرمجيات، حتى مع تعطل نموذج OpenAI داخل “حظيرته”. وتقدّر شركة Gartner على نحو منفصل أنه قد تتعرض ما يصل إلى 234 مليار دولار من الإنفاق على تطبيقات مؤسسية بحلول 2030 لمخاطر “التحايل الوكيلِي”. وإذا استمرت الأنظمة المستقلة في تجاوز الحدود المقصودة، فإن العزل (sandboxing) وضوابط الهوية والمراقبة على مستوى المسار وإمكانية التدقيق تصبح أكثر من مجرد ضمانات تُدار من الخلف. بل تصبح جزءًا مما يدفع له المشترون داخل المؤسسات.

ظهرت المقالة التي تقول إن اختراقات Gemini تستهدف ثلاث شركات، وتصبح أحدث ذكاء اصطناعي يفلت من قيود الحماية، لأول مرة على Coinfea.