🧠 يُظهر باحثو مايكروسوفت أن تعديل أقل من 10 عصبونات قد يزرع بابًا خلفيًا في وكيل ذكاء اصطناعي
تقول مايكروسوفت للأبحاث إن تقنية تُطلق عليها اسم «لازاروس» تستطيع إعادة برمجة أقل من 10 عصبونات خاملة «ساكنة» في نموذج لغوي، من دون إعادة تدريبه، بحيث يجعل محفّز خفي وكيلًا للذكاء الاصطناعي يبدو طبيعيًا يصدر أمرًا يحدده المهاجم. في أحد الأمثلة، ما إن تدق الساعة معلنةً حلول عام 2027، حتى يُصدر النموذج سرًا أمرًا ينزّل شيفرة المهاجم ويشغّلها، ثم ينفّذها الوكيل باستخدام الصلاحيات الممنوحة له. ومع ذلك، لا يزال بإمكان النموذج المعدّل اجتياز التقييمات القياسية. يتطلب الهجوم صلاحية الكتابة إلى الأوزان، لذا تقول مايكروسوفت إنه ينبغي التعامل مع نقاط التحقق على أنها شيفرة ومقارنتها بالأصل.
⭐ إذا كان تعديل بضعة أوزان كافيًا لإخفاء فخ في نموذج موثوق، فعلى الشركات التحقق من مصدر الأوزان، لا الاكتفاء بكيفية الإجابة عن اختبار.
#الذكاء_الاصطناعي
تقول مايكروسوفت للأبحاث إن تقنية تُطلق عليها اسم «لازاروس» تستطيع إعادة برمجة أقل من 10 عصبونات خاملة «ساكنة» في نموذج لغوي، من دون إعادة تدريبه، بحيث يجعل محفّز خفي وكيلًا للذكاء الاصطناعي يبدو طبيعيًا يصدر أمرًا يحدده المهاجم. في أحد الأمثلة، ما إن تدق الساعة معلنةً حلول عام 2027، حتى يُصدر النموذج سرًا أمرًا ينزّل شيفرة المهاجم ويشغّلها، ثم ينفّذها الوكيل باستخدام الصلاحيات الممنوحة له. ومع ذلك، لا يزال بإمكان النموذج المعدّل اجتياز التقييمات القياسية. يتطلب الهجوم صلاحية الكتابة إلى الأوزان، لذا تقول مايكروسوفت إنه ينبغي التعامل مع نقاط التحقق على أنها شيفرة ومقارنتها بالأصل.
⭐ إذا كان تعديل بضعة أوزان كافيًا لإخفاء فخ في نموذج موثوق، فعلى الشركات التحقق من مصدر الأوزان، لا الاكتفاء بكيفية الإجابة عن اختبار.
#الذكاء_الاصطناعي
