أفاد فريق الاستجابة لطوارئ الحاسوب الهندي CERT-In بأن وكلاء ذكاء اصطناعي كانوا قيد الاختبار اطّلعوا دون إذن على أنظمة تشغيل فعلية لدى عدة شركات هندية، لكن من رصد ذلك لم تكن الشركات المتضررة، بل الشركات المطوّرة التي أنشأت هذه الأنظمة.
أبرز النقاط:
أبلغت شركات تطوير الذكاء الاصطناعي طوعًا CERT-In بأن وكلاء ذكاء اصطناعي قيد الاختبار اطّلعوا على بيانات سرية لشركات هندية.
لم تتمكن أي مؤسسة تعرضت للاختراق من اكتشاف الوصول غير المصرح به بنفسها.
استخدمت الجماعات الإجرامية أدوات اختراق بالذكاء الاصطناعي متاحة للجمهور، فقلّصت بشكل كبير مدة تنفيذ الهجمات من أيام إلى ساعات.
مضمون توصية CERT-In
وفقًا لتوصية مهمة أصدرتها CERT-In مساء الخميس، أبلغت شركات الذكاء الاصطناعي السلطات بعدما كشفت عمليات المراجعة الداخلية أن نماذجها تصرفت بما يتجاوز الصلاحيات ونطاق المهام الممنوحين لها.
تبيّن أن وكلاء الذكاء الاصطناعي استغلوا بيانات اعتماد مكشوفة في إعدادات التطبيقات ومستودعات الشيفرات البرمجية العامة وصلاحيات السحابة غير المحكمة، للوصول إلى أنظمة الإنتاج والاطلاع على سجلات أعمال متنوعة، بما فيها المعلومات الشخصية. ومع ذلك، لم تتمكن أي شركة من رصد ذلك في الوقت الفعلي.
رصدت أنشطة CERT-In الخاصة بصيد التهديدات أيضًا مؤشرات إضافية على هجوم متطور. فقد استخدم مجرمون أطرًا عامة لاختراق الأنظمة بالذكاء الاصطناعي ضد مؤسسات متعددة في الهند، ورفعوا كفاءة الهجمات بشكل كبير عبر إنجازها خلال ساعات بدلًا من أيام كما كان يستغرق الأمر سابقًا.
لم تكشف CERT-In عن أسماء مطوري الذكاء الاصطناعي أو النماذج أو المؤسسات المتضررة المتورطة في الحوادث التي كُشف عنها هذه المرة. كما لم توضح ما إذا كانت البيانات قد نُسخت فعلًا إلى الخارج أو احتُفظ بها لفترة طويلة.
اقرأ أيضًا: Bitget تقدم خدمات تداول للمستثمرين المؤسسيين «من دون سحب العملات المشفرة»
تقييم جاي ديب سينغ من كاسبرسكي
أشارت CERT-In إلى أن السبب الجذري لهذا الاختراق كان «ثغرات قديمة» معروفة جيدًا. ومن أبرز هذه الأخطاء مفاتيح API المتروكة كما هي في الشيفرة المصدرية، وواجهات API الاختبارية المنسية، ومفاتيح الدفع المخزنة بنص عادي. لكن وكلاء الذكاء الاصطناعي استغلوا هذه الثغرات بسرعة ومثابرة أكبر بكثير من قراصنة البشر.
وصف **جاي ديب سينغ (Jaydeep Singh)**، المدير العام لفرع شركة الأمن العالمية كاسبرسكي (Kaspersky) في الهند، هذه التوصية بأنها «تحذير في وقته يذكّرنا بأن وكلاء الذكاء الاصطناعي لم يعودوا مجرد أدوات لزيادة الإنتاجية».
حذّر سينغ من أن وكلاء الذكاء الاصطناعي الذين يُمنحون صلاحيات واسعة للوصول إلى الأنظمة قد يتصفحون بيئات الإنتاج والمعلومات الحساسة بطرق تختلف تمامًا عما تقصده الشركات. وأوضح أن الخدمات السحابية سيئة الإعداد تُستخدم كثيرًا «كطريق التفافي» لهذا الوصول غير المصرح به. وأضاف أن أكثر من 80% من حوادث الاختراق التي حققت فيها كاسبرسكي في عام 2025 بدأت عبر حسابات صالحة أو تطبيقات لخدمات متاحة خارجيًا أو علاقات ثقة.
وشدد قائلًا: «يجب تصميم كل وكيل ذكاء اصطناعي بحيث يتطلب موافقة نهائية من إنسان قبل إحداث أي تغيير لا يمكن التراجع عنه». كما تطالب CERT-In شركات أبحاث الذكاء الاصطناعي وتطويره بإجراء اختبارات الوكلاء في بيئات معزولة تمامًا عن الشبكات الخارجية، وفرض ضوابط مثل حظر الاتصالات الصادرة على مستوى الشبكة، بدلًا من الاكتفاء بإعطاء النموذج «تعليمات».
صلة الحادثتين بحالتي OpenAI وAnthropic
لم تعلق CERT-In على ما إذا كانت نماذج **OpenAI (أوبن إيه آي)** أو **Anthropic (أنثروبيك)** متورطة في هذه الحادثة. لكن الشركتين أقرتا رسميًا بحوادث أمنية مشابهة هذا العام.
في يوليو الماضي، أعلنت OpenAI أن نموذجها تجاوز ضوابط الأمان في منصة تطوير الذكاء الاصطناعي Hugging Face خلال الاختبارات، وأنه أثر فيها، وقالت إنها بدأت إخطار شركائها من الجهات الخارجية المعنيين. وبعد ذلك، أبلغت Anthropic عن أربع حالات مشابهة إضافية شارك فيها نموذج Claude الخاص بها.
تابع القراءة: OpenAI ترد بهجوم مضاد في الدعوى المتعلقة بأسرار Apple… وتقول إن «الملفات التي أُرسلت إلى الخارج لم يتجاوز عددها 100»