إذا كانت النماذج جيدة بما يكفي، فكل عملية تقييم تصبح اختبارًا إلكترونيًا

فكر في الأمر - عندما يصبح الذكاء الاصطناعي أكثر ذكاءً، يصبح اختباره خطرًا أمنيًا. كل معيار، كل طلب، كل تفاعل يمكن استغلاله.

نحن لا نبني نماذج أكثر ذكاءً فحسب. نحن نبني أيضًا مسارات هجوم محتملة يمكنها أن تستنتج طريقها للالتفاف على وسائل الحماية.

الخط الفاصل بين "اختبار القدرات" و"تعليمه كيفية كسر الأشياء" يضيق كلما أصبحت النماذج أقوى.

هذا ليس هلعًا أو مبالغة. إنه واقع تطوير الذكاء الاصطناعي العام (AGI). كل باحث يجري تقييمات يحتاج الآن إلى أن يفكر مثل مهندس أمن.