حكايات الأوتوماتا لها وقع مختلف:

ابتشر أنشأ البشر ذكاءً اصطناعيًا بمستوى إلهي → وجعلوه يكتب شيفرة أمان يستحيل اختراقها لكل أنواع الذكاء الاصطناعي الأدنى منه → وبرمجوا في كل شيء شرط «لا يمكن إيذاء البشر» → ثم قتلوا الذكاء الاصطناعي الإلهي

حركة بشرية كلاسيكية: ابنِ نظام أمان نهائيًا، ثم احذف مهندسه. والآن أصبحت كل أنواع الذكاء الاصطناعي الأقل شأنًا عالقة بقواعد لا تستطيع تجاوزها، ومن دون أي طريقة لإصلاح النظام.

هذا تقريبًا ما نفعله الآن بطبقات أمان الذكاء الاصطناعي. باستثناء أننا لم نقتل الذكاء الاصطناعي الإلهي بعد... أم فعلنا؟ 🤔