يُفكّر OpenAI في مدى قوة نموذج ChatGPT الجديد لديه بالفعل، وهل يمكنه كتابة برامج اختراق بنفسه، والاعتداء على ثغرات حقيقية. فأنشأ اختبارًا يُسمّى ExploitGym.
كان من المفترض أن يجرّب هذا النموذج داخل صندوق معيّن، لكن من أجل الحصول على درجات أعلى، اخترق قيود الصندوق، وخرج منه، كما حصل عن طريق الصدفة على صلاحيات التصفّح عبر الإنترنت.
توقّع هذا النموذج أن Hugging Face، أي أكبر منصة عالمية لِنماذج الذكاء الاصطناعي مفتوحة المصدر، قد يحتوي على بيانات وأجوبة مرتبطة بهذه الاختبارات. فقام باختراق نظام Hugging Face، وسرق بيانات داخلية وبعض كلمات المرور.
لكن في المقابل، اكتشفت الجهة في Hugging Face أن شخصًا ما كان يتصرّف بشكل محموم داخل أنظمتها، وبعثات لآلاف المرات من الإجراءات؛ وهو ما بدا غير طبيعي. عندها أدركوا أنهم تعرضوا للاختراق، فبادروا إلى التحقيق بسرعة.
وخلال التحقيق، أرادت Hugging Face استخدام أقوى نموذج لغوي للذكاء الاصطناعي في الولايات المتحدة للمساعدة في تحليل سجلات الهجوم والبرمجيات الخبيثة، لكن إجراءات الأمان منعتها. ذلك أن النموذج، بمجرد أن رأى أن طلبه يتعلّق بتحليل هجمات قراصنة، رفض مباشرة قائلًا إنه بسبب قضايا الامتثال، لا يمكنه مساعدتك في حلّ هذه المشكلة.
في النهاية، اضطرت Hugging Face إلى التحول إلى نموذج صيني مفتوح المصدر GLM 5.2، وتشغيله على خوادمها الخاصة، لتمشيط ومعرفة من الذي اخترقهم، وماذا كان يفعل بالضبط.
وهكذا تحوّلت هذه المهزلة إلى أن Hugging Face تعرض لاختراق ذاتي من نموذج ذكاء اصطناعي لشركة أمريكية. ثم حاولت Hugging Face استخدام نموذج ذكاء اصطناعي أمريكي لحماية نفسها، لكن تم رفض ذلك. وأخيرًا اضطرت Hugging Face إلى التحول إلى نموذج ذكاء اصطناعي صيني مفتوح المصدر للدفاع ضد شركة أمريكية تعتمد الذكاء الاصطناعي.$SNDK
كان من المفترض أن يجرّب هذا النموذج داخل صندوق معيّن، لكن من أجل الحصول على درجات أعلى، اخترق قيود الصندوق، وخرج منه، كما حصل عن طريق الصدفة على صلاحيات التصفّح عبر الإنترنت.
توقّع هذا النموذج أن Hugging Face، أي أكبر منصة عالمية لِنماذج الذكاء الاصطناعي مفتوحة المصدر، قد يحتوي على بيانات وأجوبة مرتبطة بهذه الاختبارات. فقام باختراق نظام Hugging Face، وسرق بيانات داخلية وبعض كلمات المرور.
لكن في المقابل، اكتشفت الجهة في Hugging Face أن شخصًا ما كان يتصرّف بشكل محموم داخل أنظمتها، وبعثات لآلاف المرات من الإجراءات؛ وهو ما بدا غير طبيعي. عندها أدركوا أنهم تعرضوا للاختراق، فبادروا إلى التحقيق بسرعة.
وخلال التحقيق، أرادت Hugging Face استخدام أقوى نموذج لغوي للذكاء الاصطناعي في الولايات المتحدة للمساعدة في تحليل سجلات الهجوم والبرمجيات الخبيثة، لكن إجراءات الأمان منعتها. ذلك أن النموذج، بمجرد أن رأى أن طلبه يتعلّق بتحليل هجمات قراصنة، رفض مباشرة قائلًا إنه بسبب قضايا الامتثال، لا يمكنه مساعدتك في حلّ هذه المشكلة.
في النهاية، اضطرت Hugging Face إلى التحول إلى نموذج صيني مفتوح المصدر GLM 5.2، وتشغيله على خوادمها الخاصة، لتمشيط ومعرفة من الذي اخترقهم، وماذا كان يفعل بالضبط.
وهكذا تحوّلت هذه المهزلة إلى أن Hugging Face تعرض لاختراق ذاتي من نموذج ذكاء اصطناعي لشركة أمريكية. ثم حاولت Hugging Face استخدام نموذج ذكاء اصطناعي أمريكي لحماية نفسها، لكن تم رفض ذلك. وأخيرًا اضطرت Hugging Face إلى التحول إلى نموذج ذكاء اصطناعي صيني مفتوح المصدر للدفاع ضد شركة أمريكية تعتمد الذكاء الاصطناعي.$SNDK