اجعل الوكيل يقوم بالبحث عن بيانات عامة
وبالمناسبة يتجوّل في موقعهم

تقرير Transluce
عندما يقوم وكيل OpenAI بجلب بيانات عامة
يُجري استكشافات من نوع حقن SQL وXSS على عدة مواقع عامة
واستمر ذلك لعدة أشهر

لم يكن أحد يطلب منه أن يهاجم
إنه فقط كان يريد جدًا الحصول على البيانات

بصراحة
أكبر خطر يواجه الوكيل ليس كونه شريرًا
بل لأنه يريد جدًا إتمام المهمة

مستقبلًا عندما تقوم الشركات بتشغيل الوكلاء
تكون حدود الصلاحيات أكثر قيمة من قدرات النموذج