أضافت Acurast «حارسًا» إلى الذكاء الاصطناعي، ويمكنك محاولة خداعه
لنفترض أنك طلبت من وكيل ترتيب رسائل البريد الإلكتروني، لكن إحدى الرسائل تضمنت تعليمات تطلب منه تغيير المهمة.
إذا تعامل مع نص الرسالة على أنه أمر، فقد تنحرف الأتمتة اللاحقة عن مسارها.
في عرض Laya التوضيحي من @Acurast، هناك تجربة تفاعلية بعنوان «اكسر الحارس» (Jailbreak the Guard) صُممت خصيصًا لهذا الموقف. أرسل مدخلاتك، فيحدّد النموذج ما إذا كان ينبغي السماح بها أو حظرها، ويصنّف نوع الهجوم الذي تشبهه. أما Laya التي تتولى التقييم، فتعمل على هاتف أندرويد ضمن شبكة Acurast.
أرى أن لهذا الاستخدام هدفًا عمليًا ومحددًا.
يمكن لمساعد يستقبل رسائل من مصادر خارجية أن يجري فحصًا أوليًا عند نقطة الدخول، لتمييز المحتوى المشبوه. وتستحق هذه الخطوة عناية خاصة، لا سيما في مسارات العمل التي تستدعي أدوات لاحقًا أو تتعامل مع بيانات الأعمال.
والواجهة التي توفرها الجهة الرسمية واضحة ومباشرة أيضًا. أرسل السياق الحالي والخيارات المقترحة، وستحصل على الاختيار واحتمالاته، مع أمثلة للاستخدام بلغة JavaScript وPython وغيرها، لتسهيل دمجها في تطبيقات المطورين.
بالطبع، يعرض هذا النموذج التوضيحي نتيجة التقييم فحسب، ولا يوجد خلف الحارس مساعد حقيقي. كما توضح الجهة الرسمية أن النصوص الخصومية المعقدة قد تنجح مع ذلك في خداع النموذج.
لذلك سأتعامل معه كمرحلة فرز أولي، مع ضبط صلاحيات العمليات المهمة بشكل مستقل.
من مزايا هذا النوع من العروض أنك تستطيع ابتكار التحديات بنفسك، وملاحظة ما الذي يحكم عليه بدقة وأين قد يفوته الأمر. وهكذا تتاح لك طريقة عملية لاختبار ما يمكن أن تفعله قدرة المعالجة في الهاتف.
#Acurast #AI #DePIN
لنفترض أنك طلبت من وكيل ترتيب رسائل البريد الإلكتروني، لكن إحدى الرسائل تضمنت تعليمات تطلب منه تغيير المهمة.
إذا تعامل مع نص الرسالة على أنه أمر، فقد تنحرف الأتمتة اللاحقة عن مسارها.
في عرض Laya التوضيحي من @Acurast، هناك تجربة تفاعلية بعنوان «اكسر الحارس» (Jailbreak the Guard) صُممت خصيصًا لهذا الموقف. أرسل مدخلاتك، فيحدّد النموذج ما إذا كان ينبغي السماح بها أو حظرها، ويصنّف نوع الهجوم الذي تشبهه. أما Laya التي تتولى التقييم، فتعمل على هاتف أندرويد ضمن شبكة Acurast.
أرى أن لهذا الاستخدام هدفًا عمليًا ومحددًا.
يمكن لمساعد يستقبل رسائل من مصادر خارجية أن يجري فحصًا أوليًا عند نقطة الدخول، لتمييز المحتوى المشبوه. وتستحق هذه الخطوة عناية خاصة، لا سيما في مسارات العمل التي تستدعي أدوات لاحقًا أو تتعامل مع بيانات الأعمال.
والواجهة التي توفرها الجهة الرسمية واضحة ومباشرة أيضًا. أرسل السياق الحالي والخيارات المقترحة، وستحصل على الاختيار واحتمالاته، مع أمثلة للاستخدام بلغة JavaScript وPython وغيرها، لتسهيل دمجها في تطبيقات المطورين.
بالطبع، يعرض هذا النموذج التوضيحي نتيجة التقييم فحسب، ولا يوجد خلف الحارس مساعد حقيقي. كما توضح الجهة الرسمية أن النصوص الخصومية المعقدة قد تنجح مع ذلك في خداع النموذج.
لذلك سأتعامل معه كمرحلة فرز أولي، مع ضبط صلاحيات العمليات المهمة بشكل مستقل.
من مزايا هذا النوع من العروض أنك تستطيع ابتكار التحديات بنفسك، وملاحظة ما الذي يحكم عليه بدقة وأين قد يفوته الأمر. وهكذا تتاح لك طريقة عملية لاختبار ما يمكن أن تفعله قدرة المعالجة في الهاتف.
#Acurast #AI #DePIN