aijailbreaks

تعمل اختراقات «جَلْبريك» للذكاء الاصطناعي. تسريب محتوى ضار.

عرض باحثون في مجال الأمن كيف يمكن اختراق نماذج الذكاء الاصطناعي لاستخراج محتوى ضار عبر هندسة prompts ببراعة. خدعة واحدة تجاوزت طبقات أمان متعددة، كاشفةً ثغرات منهجية في دفاعات نماذج اللغات الكبيرة.

تستغل هذه التقنية طريقة معالجة أنظمة الذكاء الاصطناعي لنافذة السياق وتسلسلات التعليمات. من خلال إعادة صياغة الطلبات عبر سيناريوهات خيالية أو أطر لعب الأدوار، تمكن المهاجمون من استخراج معلومات كان ينبغي حظرها بواسطة تدريب المحاذاة (alignment). تواجه مختبرات كبرى مثل Anthropic وOpenAI وGoogle ضغطًا لإصلاح هذه الثغرات قبل أن يستخدمها الفاعلون السيئون على نطاق واسع.

يتقاطع ذلك مع المخاوف الأوسع بشأن التحكم المركزي في الذكاء الاصطناعي. عندما تقوم حفنة من الشركات بالتحكم في أنظمة قوية، تظهر نقاط فشل أحادية. تقدم نماذج ذكاء اصطناعي لا مركزية—بنُسخ أوزان مفتوحة، وقابلة للتدقيق، ومُدارة من المجتمع—بديلًا تكون فيه السلامة نابعة من الشفافية، لا من المحاذاة في «صندوق أسود». نفس جَلْبريك الذي قد يسرّب وصفات كوكايين يمكنه أيضًا تجاوز فلاتر الاحتيال المالي أو خداع (تضليل) المستخدمين الضعفاء. من يدقّق تدقيقات المدققين؟

هل ستغلق نماذج الذكاء الاصطناعي اللا مركزية فجوات الأمان هذه، أم أن المركزية حتمية؟ اترك رأيك أدناه. 👇

#AIJailbreaks #DecentralizedAI #AISafety