تقول OpenAI إنها جعلت نسخ مختبرات الذكاء الاصطناعي المنافسة لنماذجها سرًا أصعب بكثير، إذ خفّضت معدل نجاح إحدى هجمات النسخ من 54% إلى 0.2%، وذلك بعد أن ربطت في وقت سابق محاولات كهذه بشركة DeepSeek الصينية وأشخاص على صلة بشركة Moonshot AI المطوّرة لـ Kimi.

أبرز النقاط

  • قالت OpenAI إن أحد الهجمات التي تحاول استخراج الاستدلالات الخفية لنماذجها ينجح الآن في 0.2% من الحالات على GPT-6.2 Astra، انخفاضًا من 54.0%

  • وقالت الشركة إن سجلات الاستدلال الدقيقة قد تنقل قدرات أكبر في مجال الأمن السيبراني من ملخصات الاستدلال

  • تراوح إنفاذ الإجراءات أسبوعيًا ضد حملات التقطير بين آلاف الحسابات وعشرات الآلاف منها

  • ربطت OpenAI التقطير الخصومي بمخاطر الأمن السيبراني والبيولوجيا والأمن القومي

نشرت OpenAI البحث في 20 نوفمبر، ووصفت التقطير الخصومي بأنه استخدام غير مصرّح به لمخرجات نموذج متقدم لتدريب نموذج آخر بقدرات مماثلة، ثم نشره من دون وسائل حماية مماثلة.

أولت الشركة أهمية خاصة لآثار الاستدلال الدقيقة، وهي الخطوات الداخلية التي يولّدها النموذج أثناء العمل على إجابة، لأن هذه الآثار قد تتضمن معلومات لا تظهر في الإجابة النهائية، وقد تصبح بيانات تدريب قيّمة على نحو خاص لنموذج آخر.

آلية عمل وسائل الحماية

وصفت OpenAI منظومة حماية ذات مستويين. على مستوى الطلب، تستخدم التدريب الخصومي لسلوك النموذج، وفحوصات المصنّفات، وضوابط واجهة برمجة التطبيقات (API) للحد من استخراج آثار الاستدلال. وعلى مستوى الحملات، تبحث عن أنماط الطلبات والحسابات التي قد تكشف محاولات استخراج منسّقة، ثم تحقق فيها وتفرض إجراءات على شبكات الحسابات.

تشمل طبقة المصنّفات المدخلات والمخرجات على حد سواء. تبحث مصنّفات المدخلات عن محاولات استخراج الاستدلال المحمي. أما مصنّفات المخرجات فتبحث عن تسرّب الاستدلال المحمي في رسائل المساعد ووسائط استدعاء الأدوات، وتنطبق هذه الفحوصات على الاستجابات المتدفقة وغير المتدفقة. وتكتسب تغطية استدعاءات الأدوات أهمية لأن النموذج قد يكشف عن استدلال محمي في وسائط إحدى الأدوات من دون إدراجه في الإجابة النهائية.

كما عُزّزت وسائل الحماية في واجهة برمجة التطبيقات عبر حدود المستخدمين ومساحات العمل والمؤسسات وعائلات النماذج. وقالت OpenAI إنها أغلقت مسارًا كان قد يكشف عن استدلال مشفّر لمستخدم آخر. وفي GPT-6.2 Astra وGPT-6.2 Sol، يرتبط الاستدلال المحمي بسجل المحادثة الذي أنتجه. وإذا عُدّلت رسالة سابقة، تحذف واجهة برمجة التطبيقات الاستدلال الذي تلاها. كما مُنعت عائلات النماذج الأقدم ذات وسائل الحماية الأضعف من قراءة الاستدلال المحمي الخاص بـ GPT-6.2 Astra وSol.

في اختبارات الصندوق الأسود التكيفية، قاست OpenAI معدل نجاح الهجوم (ASR) لنوعين من محاولات استخراج الاستدلال، وأفادت بانخفاض النتائج في الحالتين على GPT-6.2 Astra.

اختبار استخراج الاستدلال | ASR لـ GPT-6 Astra | ASR لـ GPT-6.2 Astra الطلب السابق | 54.0% | 0.2% الطلب الحالي | 22.9% | 0.9%

وقالت الشركة إن التقييم جُمِع عبر ستة نماذج للمهاجمين، وإن انخفاض ASR أفضل. وهي تطبّق الآن تحسينات مختارة على وسائل الحماية في GPT-6 Astra أيضًا.

اقرأ أيضًا: OpenAI تشدّد ضوابط تدريب الذكاء الاصطناعي مع اقتراب تكلفة نسخ النماذج المسروقة من الصفر

لماذا يهم هذا؟

قدّمت OpenAI التقطير على أنه يتجاوز كونه نزاعًا على الملكية الفكرية. فالتقطير تقنية شائعة في تعلّم الآلة يتعلّم فيها نموذج من بيانات أنتجها نموذج آخر، لكن الشركة رأت أن التقطير غير المصرّح به قد ينقل قدرات النماذج المتقدمة من دون نقل وسائل الحماية التي تنظّم كيفية استخدام تلك القدرات.

يتضح هذا الخطر أكثر في المجالات ذات الاستخدام المزدوج التي أشار إليها البحث. فالنموذج الذي يساعد المدافعين على اكتشاف ثغرات البرمجيات قد يساعد المهاجم أيضًا على استغلالها. والنموذج الذي يدعم الأبحاث البيولوجية قد يساعد شخصًا كذلك على تطوير عامل ممرض ضار. ووجدت الدراسة الداخلية للأمن السيبراني لدى OpenAI أن النماذج الطلابية المدرّبة على آثار الاستدلال الدقيقة تفوقت عمومًا على النماذج الطلابية المدرّبة على ملخصات الاستدلال بعد الضبط الدقيق الخاضع للإشراف. وبعد التعلم بالتعزيز، ظل النموذج الطلابي المدرّب على الآثار الدقيقة أعلى تقييمًا عند أكبر ميزانية استدلال اختُبرت في ExploitBench وSEC-bench Pro، بينما حقق النموذج المدرّب على الملخصات تقييمًا أعلى عند الميزانيات الأقل.

كما قدّمت الشركة التقطير الخصومي بوصفه مسألة أمن قومي. وقالت إن جهة أجنبية تعيد إنتاج قدرات متقدمة من نموذج أمريكي يمكنها نشرها من دون وسائل الحماية التي وضعها مطوّره. وفي فبراير، قالت OpenAI إنها أطلعت الكونغرس على نشاط يشير إلى أن DeepSeek كانت تحاول تقطير نماذج أمريكية متقدمة. وفي سبتمبر، أفادت بأنها عطّلت حملة لاستخراج الاستدلال المحمي، وعزت جزءًا أساسيًا من ذلك النشاط إلى أفراد مرتبطين بـ Moonshot AI، مطوّرة Kimi. وقالت OpenAI أيضًا إنها تدعم قانون أمن الرقائق، وقانون AI OVERWATCH، وقانون MATCH، ورأت أن تعزيز ضوابط التصدير ووسائل الحماية من التقطير يسهمان معًا في الحفاظ على تقدم الولايات المتحدة في مجال الذكاء الاصطناعي المتقدم.

ما الذي ينبغي متابعته لاحقًا؟

أفادت OpenAI بأنها رصدت هذا العام عدة حملات تقطير خصومي غير مصرّح بها على منصتها. وتراوحت إجراءات الإنفاذ الأسبوعية بين آلاف الحسابات وعشرات الآلاف، مع ارتفاع المعدل بشكل ملحوظ في الصيف الماضي. وقالت الشركة إنها تتتبع مدى انتشار إساءة استخدام التقطير، والوقت الفاصل بين اكتشافها واتخاذ إجراءات الإنفاذ.

هدفها المعلن هو الحد من كمية البيانات وقيمتها التي يمكن للقائمين بالتقطير الحصول عليها، ورفع تكلفة تلك الحملات، وتقليص الوقت اللازم للاستجابة للهجمات الجديدة. وقالت OpenAI أيضًا إنها تعتزم قريبًا مشاركة مزيد من التفاصيل عن الحملات التي عطّلتها مؤخرًا.

أما مطوّرو النماذج الآخرون والمنصات، فقد أشارت الشركة إلى عدة خطوات مستفادة من هذا العمل. وتشمل حماية الاستدلال الخاص طوال التفاعل بأكمله، وفحص رسائل المساعد ووسائط استدعاء الأدوات بحثًا عن أي تسرّب، والاحتفاظ بهجمات الاستخراج الناجحة بوصفها اختبارات انحدار، والجمع بين إجراءات التخفيف على مستوى الطلب والتحقيق والإنفاذ على مستوى الحملات، وتنسيق وسائل الحماية مع شركاء النشر. وقالت OpenAI إنها شاركت النتائج أيضًا عبر منتدى Frontier Model Forum وقنوات تبادل المعلومات الحكومية المناسبة.

اقرأ التالي: OpenAI تكتشف 948 ثغرة في Linux قد تمنح المخترقين السيطرة