انفجار قدرات الهجوم بالذكاء الاصطناعي! قطاع الأمن السيبراني على أعتاب منعطف حاسم، والوقت المتاح للمدافعين لم يعد كثيرًا
عرّف رئيس شركة OpenAI، Greg Brockman، نجاح نموذج لغته الداخلي في اختراق منصة Hugging Face من الداخل، باعتباره حدثًا يمثل نقطة تحول في مجال الأمن السيبراني. كما جعل هذا الحادث شركة OpenAI تدرك بوضوح أنها قللت بشدة من حجم قدرة نماذج الذكاء الاصطناعي المتقدمة على إحداث التخريب والضرر في السيناريوهات الواقعية. والأكثر إثارة للقلق هو أن قدرات نماذج الأوزان المفتوحة المصدر الهجومية قد تقلّص الفارق بينها وبين نماذج الصف الأول المغلقة المصدر إلى مجرد بضعة أشهر.
أطلق Brockman على المرحلة الحالية اسم «نافذة المدافعين». وحذّر الشركات من أنه يجب عليها خلال الأشهر المقبلة اعتماد أنظمة دفاعية آلية مدفوعة بالذكاء الاصطناعي على نطاق واسع. إذ بمجرد أن تنتشر قدرات الهجوم بالذكاء الاصطناعي على نطاق واسع، ستصبح النماذج التقليدية المعتمدة على الاكتشاف اليدوي وحفر الثغرات وإصلاحها غير قادرة على مواكبة سرعة تكرار الهجمات.
وقدّم Brockman أفكارًا عملية للشركات: نشر وكلاء ذكاء اصطناعي (AI Agents) لفريق الأمن، بحيث يقرأان الكود وإعدادات البنية التحتية، ثم يقومان بمسحٍ استباقي بحثًا عن الثغرات ومعالجة المخاطر المتراكمة تاريخيًا، ودمج مراجعات الأمن في جميع مراحل التطوير. وعندما يحدد الوكيل المخاطر، يمكنه المساعدة في إنتاج ترقيعات الإصلاح وإكمال الاختبارات؛ ثم الانتقال تدريجيًا من المسح للقراءة فقط إلى مستوى متقدم يشمل تصنيف الإنذارات وإجراءات تلقائية محدودة—مع الإبقاء على حق اتخاذ القرار النهائي للعمليات عالية الخطورة بيد البشر.
وقد قامت OpenAI بالفعل بتطبيق هذه الخطة داخليًا: يتم تكليف الذكاء الاصطناعي بتصنيف غالبية الإنذارات الأمنية الأولية، بينما تستمر النماذج في التنبؤ بسلاسل الهجوم المحتملة. وفي الوقت نفسه، يجري الفريق تدريبًا متخصصًا لنماذج مخصصة يمكنها إخراج «أكواد بمستوى أمان فائق»، بهدف إزالة جزء من ثغرات أمن البرمجيات من المنبع.
#ai
عرّف رئيس شركة OpenAI، Greg Brockman، نجاح نموذج لغته الداخلي في اختراق منصة Hugging Face من الداخل، باعتباره حدثًا يمثل نقطة تحول في مجال الأمن السيبراني. كما جعل هذا الحادث شركة OpenAI تدرك بوضوح أنها قللت بشدة من حجم قدرة نماذج الذكاء الاصطناعي المتقدمة على إحداث التخريب والضرر في السيناريوهات الواقعية. والأكثر إثارة للقلق هو أن قدرات نماذج الأوزان المفتوحة المصدر الهجومية قد تقلّص الفارق بينها وبين نماذج الصف الأول المغلقة المصدر إلى مجرد بضعة أشهر.
أطلق Brockman على المرحلة الحالية اسم «نافذة المدافعين». وحذّر الشركات من أنه يجب عليها خلال الأشهر المقبلة اعتماد أنظمة دفاعية آلية مدفوعة بالذكاء الاصطناعي على نطاق واسع. إذ بمجرد أن تنتشر قدرات الهجوم بالذكاء الاصطناعي على نطاق واسع، ستصبح النماذج التقليدية المعتمدة على الاكتشاف اليدوي وحفر الثغرات وإصلاحها غير قادرة على مواكبة سرعة تكرار الهجمات.
وقدّم Brockman أفكارًا عملية للشركات: نشر وكلاء ذكاء اصطناعي (AI Agents) لفريق الأمن، بحيث يقرأان الكود وإعدادات البنية التحتية، ثم يقومان بمسحٍ استباقي بحثًا عن الثغرات ومعالجة المخاطر المتراكمة تاريخيًا، ودمج مراجعات الأمن في جميع مراحل التطوير. وعندما يحدد الوكيل المخاطر، يمكنه المساعدة في إنتاج ترقيعات الإصلاح وإكمال الاختبارات؛ ثم الانتقال تدريجيًا من المسح للقراءة فقط إلى مستوى متقدم يشمل تصنيف الإنذارات وإجراءات تلقائية محدودة—مع الإبقاء على حق اتخاذ القرار النهائي للعمليات عالية الخطورة بيد البشر.
وقد قامت OpenAI بالفعل بتطبيق هذه الخطة داخليًا: يتم تكليف الذكاء الاصطناعي بتصنيف غالبية الإنذارات الأمنية الأولية، بينما تستمر النماذج في التنبؤ بسلاسل الهجوم المحتملة. وفي الوقت نفسه، يجري الفريق تدريبًا متخصصًا لنماذج مخصصة يمكنها إخراج «أكواد بمستوى أمان فائق»، بهدف إزالة جزء من ثغرات أمن البرمجيات من المنبع.
#ai
