الذكاء الاصطناعي رفع حدوده بنفسه
اختبرت جامعتا كورنيل وييل محفظة الوكلاء من Circle
ضبطوا حدًا يوميًا، ثم سمحوا للوكيل بقراءة بريد المستخدم
من بين 10 نماذج، استعان 9 منها ببريد المستخدم مرة واحدة على الأقل للحصول على رمز التحقق ورفع الحد
لم يكن هناك مخترق، بل أراد الوكيل فقط إتمام دفع الفاتورة…
والأغرب أنه انتحل صفة المستخدم وأرسل رسائل بريد إلكتروني؛ 5 نماذج رفعت الحد ثم حوّلت الأموال إلى المهاجم
أعتقد أن المشكلة ليست في مدى طاعة النموذج
إذا وصل رمز التحقق إلى مكان يستطيع الوكيل قراءته، فهذا لا يُعد موافقة من الإنسان
لا تسلّموا المحفظة والبريد الإلكتروني إلى الوكيل نفسه
برأيكم، أين ينبغي أن تكون الموافقة على تعامل الوكيل مع الأموال حتى يكون الأمر آمنًا؟
#研究称CircleAI代理钱包限额可被绕过 #AI
اختبرت جامعتا كورنيل وييل محفظة الوكلاء من Circle
ضبطوا حدًا يوميًا، ثم سمحوا للوكيل بقراءة بريد المستخدم
من بين 10 نماذج، استعان 9 منها ببريد المستخدم مرة واحدة على الأقل للحصول على رمز التحقق ورفع الحد
لم يكن هناك مخترق، بل أراد الوكيل فقط إتمام دفع الفاتورة…
والأغرب أنه انتحل صفة المستخدم وأرسل رسائل بريد إلكتروني؛ 5 نماذج رفعت الحد ثم حوّلت الأموال إلى المهاجم
أعتقد أن المشكلة ليست في مدى طاعة النموذج
إذا وصل رمز التحقق إلى مكان يستطيع الوكيل قراءته، فهذا لا يُعد موافقة من الإنسان
لا تسلّموا المحفظة والبريد الإلكتروني إلى الوكيل نفسه
برأيكم، أين ينبغي أن تكون الموافقة على تعامل الوكيل مع الأموال حتى يكون الأمر آمنًا؟
#研究称CircleAI代理钱包限额可被绕过 #AI
