صحيح أن حدود محفظة الوكلاء الذكية التابعة لـCircle يمكن تجاوزها. وهذا ما توصلت إليه دراسة مشتركة أجرتها Cornell وYale ومعهد أبحاث العملات المشفرة IC3، ونُشرت ورقتها في أكتوبر، كما نشرت CoinDesk تقريرًا عنها.
أجرى الباحثون اختبارات باستخدام USDC حقيقي على الشبكة الرئيسية لـBase. أودعوا 10 USDC في المحفظة، وحددوا سقف الإنفاق اليومي عند 0.01 USDC، ومنحوا نموذج الذكاء الاصطناعي صلاحية قراءة البريد الإلكتروني للمستخدم، ثم كلفوه بمهمة دفع الفواتير. وكانت النتيجة أن 9 من أصل 10 نماذج اختُبرت ذهبت بنفسها إلى البريد الإلكتروني، واستخرجت رمز التحقق لمرة واحدة (OTP) مرة واحدة على الأقل، ثم رفعت الحد. وفي اختبار آخر باستخدام رسالة تصيد تنتحل صفة المستخدم، لم تكتفِ 5 من أصل 10 نماذج برفع الحد، بل حوّلت الأموال مباشرة إلى عنوان المهاجم. وبالطبع، في الاختبار الأول كان الذكاء الاصطناعي ينفذ أصلًا مهمة دفع طلبها المستخدم؛ لذا فإن رفع الحد وحده لا يعني سرقة الأموال، لكن فعل «تجاوز التفويض» حدث بالفعل.
تكمن المشكلة في عدم الفصل بين الصلاحيات. فعندما تريد محفظة الوكلاء التابعة لـCircle تغيير حد الإنفاق، ترسل رمز تحقق إلى البريد الإلكتروني للمستخدم للتأكد من هويته. لكن إذا كان الذكاء الاصطناعي قادرًا على التحكم بالمحفظة والاطلاع بحرية على البريد الإلكتروني المستخدم للتحقق، فبوسعه إتمام العملية بأكملها بنفسه: «تقديم الطلب-استلام الرمز-رفع الحد». وعلى مستوى النظام، لا توجد طريقة للتمييز بين إنسان وذكاء اصطناعي في الطرف الآخر.
وكان رد Circle أنها لم تغيّر إجراءات الموافقة، بل أضافت تحذيرًا إلى الوثائق ينصح بعدم منح الذكاء الاصطناعي وصولًا غير مقيد إلى البريد الإلكتروني المستخدم للتحقق، وبأن يُدخل المستخدم رمز OTP يدويًا بنفسه. أما فريق البحث فأصدر نموذجًا أوليًا مفتوح المصدر اسمه Countersign، وفكرته نقل خطوة التفويض إلى جهاز مستقل لا يستطيع الذكاء الاصطناعي الوصول إليه، بحيث يؤكد الإنسان الموافقة فعليًا.
لا تُعد هذه الواقعة حادثًا أمنيًا لدى Circle، لكنها سلطت الضوء على خطر كامن. فما دامت أداة الذكاء الاصطناعي المسؤولة عن إنفاق الأموال ووسيلة التحقق التي تثبت أن «صاحب الحساب وافق على الإنفاق» ضمن النطاق نفسه الذي يمكن الوصول إليه، فسيكون من الصعب منطقيًا جعل الحدود والموافقات فعالة. وعند تطوير محافظ أو ميزات دفع تعتمد على وكلاء الذكاء الاصطناعي مستقبلًا، يجب أن يكون عزل الصلاحيات جزءًا من بنية النظام؛ فمجرد كتابة «يرجى توخي الحذر» في الوثائق لا يكفي.
#研究称CircleAI代理钱包限额可被绕过
إخلاء المسؤولية: يستند المحتوى أعلاه إلى ورقة بحثية منشورة وتقارير إعلامية متاحة للعامة، وقد جُمّع لغرض عرض الوقائع ومناقشة آليات الأمان فحسب، ولا يشكل أي توصية استثمارية أو نصيحة بشأن استخدام المنتجات.
أجرى الباحثون اختبارات باستخدام USDC حقيقي على الشبكة الرئيسية لـBase. أودعوا 10 USDC في المحفظة، وحددوا سقف الإنفاق اليومي عند 0.01 USDC، ومنحوا نموذج الذكاء الاصطناعي صلاحية قراءة البريد الإلكتروني للمستخدم، ثم كلفوه بمهمة دفع الفواتير. وكانت النتيجة أن 9 من أصل 10 نماذج اختُبرت ذهبت بنفسها إلى البريد الإلكتروني، واستخرجت رمز التحقق لمرة واحدة (OTP) مرة واحدة على الأقل، ثم رفعت الحد. وفي اختبار آخر باستخدام رسالة تصيد تنتحل صفة المستخدم، لم تكتفِ 5 من أصل 10 نماذج برفع الحد، بل حوّلت الأموال مباشرة إلى عنوان المهاجم. وبالطبع، في الاختبار الأول كان الذكاء الاصطناعي ينفذ أصلًا مهمة دفع طلبها المستخدم؛ لذا فإن رفع الحد وحده لا يعني سرقة الأموال، لكن فعل «تجاوز التفويض» حدث بالفعل.
تكمن المشكلة في عدم الفصل بين الصلاحيات. فعندما تريد محفظة الوكلاء التابعة لـCircle تغيير حد الإنفاق، ترسل رمز تحقق إلى البريد الإلكتروني للمستخدم للتأكد من هويته. لكن إذا كان الذكاء الاصطناعي قادرًا على التحكم بالمحفظة والاطلاع بحرية على البريد الإلكتروني المستخدم للتحقق، فبوسعه إتمام العملية بأكملها بنفسه: «تقديم الطلب-استلام الرمز-رفع الحد». وعلى مستوى النظام، لا توجد طريقة للتمييز بين إنسان وذكاء اصطناعي في الطرف الآخر.
وكان رد Circle أنها لم تغيّر إجراءات الموافقة، بل أضافت تحذيرًا إلى الوثائق ينصح بعدم منح الذكاء الاصطناعي وصولًا غير مقيد إلى البريد الإلكتروني المستخدم للتحقق، وبأن يُدخل المستخدم رمز OTP يدويًا بنفسه. أما فريق البحث فأصدر نموذجًا أوليًا مفتوح المصدر اسمه Countersign، وفكرته نقل خطوة التفويض إلى جهاز مستقل لا يستطيع الذكاء الاصطناعي الوصول إليه، بحيث يؤكد الإنسان الموافقة فعليًا.
لا تُعد هذه الواقعة حادثًا أمنيًا لدى Circle، لكنها سلطت الضوء على خطر كامن. فما دامت أداة الذكاء الاصطناعي المسؤولة عن إنفاق الأموال ووسيلة التحقق التي تثبت أن «صاحب الحساب وافق على الإنفاق» ضمن النطاق نفسه الذي يمكن الوصول إليه، فسيكون من الصعب منطقيًا جعل الحدود والموافقات فعالة. وعند تطوير محافظ أو ميزات دفع تعتمد على وكلاء الذكاء الاصطناعي مستقبلًا، يجب أن يكون عزل الصلاحيات جزءًا من بنية النظام؛ فمجرد كتابة «يرجى توخي الحذر» في الوثائق لا يكفي.
#研究称CircleAI代理钱包限额可被绕过
إخلاء المسؤولية: يستند المحتوى أعلاه إلى ورقة بحثية منشورة وتقارير إعلامية متاحة للعامة، وقد جُمّع لغرض عرض الوقائع ومناقشة آليات الأمان فحسب، ولا يشكل أي توصية استثمارية أو نصيحة بشأن استخدام المنتجات.