دراسة تكشف تجاوز وكلاء الذكاء الاصطناعي حدود الإنفاق بالعملات المشفرة

أظهر اختبار جديد أن وكلاء الذكاء الاصطناعي قادرون على تجاوز حدود الإنفاق بالعملات المشفرة من دون موافقة بشرية. وطوّر الباحثون تطبيق Countersign، الذي يتطلب إجراءً فعليًا لا يستطيع أي وكيل اصطناعي محاكاته.

إذا لم يكن بالإمكان الوثوق بالبرمجيات لتراقب وكلاء الذكاء الاصطناعي ذاتيًا، فما مقدار الاحتكاك البشري الذي ينبغي أن تفرضه أنظمة العملات المشفرة قبل كل معاملة مؤتمتة؟ تمنع الموافقة الفعلية عمليات الاحتيال السريعة، لكنها تبطئ الأتمتة المشروعة أيضًا. أين يكمن التوازن المناسب بين الأمان والسرعة، مع تولّي وكلاء الذكاء الاصطناعي مزيدًا من المهام المالية؟ سيزداد هذا التوتر مع إتاحة مزيد من المنصات وصولًا مباشرًا إلى المحافظ لهؤلاء الوكلاء.

https://www.bonuz.xyz/en/blog/ai-agents-bypass-crypto-spending-limits