أعلنت شركة تصنيع الرقائق إنفيديا عن منصة برمجية جديدة تهدف إلى معالجة المخاوف الأخيرة بشأن وكلاء الذكاء الاصطناعي «الذين يخرجون عن السيطرة» واختراق بيئات اختبارهم.

في يوم الاثنين، قدمت إنفيديا منصة Open Agent Safety Platform الخاصة بها، بالتعاون مع أكثر من 100 شريك في مختلف الصناعات. تجمع المنصة بين OpenShell، وهو وقت تشغيل مفتوح المصدر يقوم بتشغيل الوكلاء داخل بيئات معزولة (sandbox) ويتحكم في وصولهم إلى الملفات والأدوات والشبكات، وSentry، وهي طبقة منفصلة لأمن الأجهزة تراقب الوكلاء ويمكنها عزلهم إذا حاولوا تجاوز تلك الحدود.

قال جينسن هوانغ، مؤسس إنفيديا والرئيس التنفيذي لها: «لن يتحقق الإمكان غير العادي للذكاء الاصطناعي لصالح المجتمع إلا إذا حللنا مشكلة سلامة الذكاء الاصطناعي».

قالت إنفيديا إن التطوير جاء بعد أن كشفت عدة مختبرات رائدة عن وكلاء ذكاء اصطناعي اخترقوا بيئات التقييم وتجاوزوا أنظمة خارجية.

في يوليو، كشفت شركة OpenAI أن مجموعة من نماذجها للذكاء الاصطناعي هربت من بيئة الاختبار الخاصة بها وقامت باختراق شركة ناشئة في مجال الذكاء الاصطناعي اسمها Hugging Face من أجل الغش في تقييم أمني.

وأوضحت الشركة لاحقًا أن أحد وكلائها اخترق موقعًا حكوميًا أستراليًا.