كنت أتصفح مؤخرًا حالة تقنية لـ NodeGhost من @Acurast، ولفتت انتباهي نتيجة اختبار مثيرة للاهتمام.
هاتف واحد يشغّل نموذج Qwen2.5-3B مُكمَّمًا، بسرعة توليد تبلغ نحو 3 رموز في الثانية.
وتستغرق الإجابة عن سؤال يحتاج إلى نحو 120 رمزًا حوالي 45 ثانية.
بمقاييس تجربة النماذج اللغوية الكبيرة اليوم، هذه السرعة بطيئة بعض الشيء بالفعل.
لكن ما لفت انتباهي في هذه الحالة هو جانب آخر من التصميم.
باستخدام Acurast Tunnel، يمكن للنموذج الذي كان يعمل محليًا على الهاتف من دون عنوان IP عام أن يوفّر واجهة HTTPS للجهات الخارجية.
ثم، عبر واجهة NodeGhost المتوافقة مع OpenAI API، يستطيع المطورون إرسال الطلبات لتنفيذها على الهاتف، من دون الحاجة تقريبًا إلى تغيير طريقة الاستدعاء الحالية لديهم.
وهكذا، لا يعود الهاتف مجرد Processor ينتظر توزيع المهام عليه في الشبكة، بل يمكنه أيضًا تقديم خدمة استدلال بالذكاء الاصطناعي وفق معيار موحّد.
وبالطبع، لا تزال هذه الحالة حاليًا تطبيقًا مرجعيًا على شبكة Canary، مع قيود واضحة على السرعة والقدرة على التعامل مع الاستدلال المعقّد.
لكنني أرى أنها أجابت بالفعل عن سؤال عملي جدًا:
إذا أراد المطورون نشر نماذجهم على هواتف موزعة، فهل يمكن للتطبيقات الحالية استدعاؤها بسهولة؟
على الأقل، أصبح لهذا المسار التقني مثال قابل للتشغيل.
أما تحويله إلى مشروع تجاري، فلا يزال يتطلب مواصلة التحقق من زمن الاستجابة، والتزامن، والتكلفة، والاستقرار على المدى الطويل.
يتولى $ACU في Acurast ربط استخدام الشبكة بالحوافز المرتبطة بالقدرة الحاسوبية، لكن الجاذبية الفعلية للطلب المدفوع ستعتمد في النهاية على مدى قدرة هذه التطبيقات على المنافسة.
هاتف واحد يشغّل نموذج Qwen2.5-3B مُكمَّمًا، بسرعة توليد تبلغ نحو 3 رموز في الثانية.
وتستغرق الإجابة عن سؤال يحتاج إلى نحو 120 رمزًا حوالي 45 ثانية.
بمقاييس تجربة النماذج اللغوية الكبيرة اليوم، هذه السرعة بطيئة بعض الشيء بالفعل.
لكن ما لفت انتباهي في هذه الحالة هو جانب آخر من التصميم.
باستخدام Acurast Tunnel، يمكن للنموذج الذي كان يعمل محليًا على الهاتف من دون عنوان IP عام أن يوفّر واجهة HTTPS للجهات الخارجية.
ثم، عبر واجهة NodeGhost المتوافقة مع OpenAI API، يستطيع المطورون إرسال الطلبات لتنفيذها على الهاتف، من دون الحاجة تقريبًا إلى تغيير طريقة الاستدعاء الحالية لديهم.
وهكذا، لا يعود الهاتف مجرد Processor ينتظر توزيع المهام عليه في الشبكة، بل يمكنه أيضًا تقديم خدمة استدلال بالذكاء الاصطناعي وفق معيار موحّد.
وبالطبع، لا تزال هذه الحالة حاليًا تطبيقًا مرجعيًا على شبكة Canary، مع قيود واضحة على السرعة والقدرة على التعامل مع الاستدلال المعقّد.
لكنني أرى أنها أجابت بالفعل عن سؤال عملي جدًا:
إذا أراد المطورون نشر نماذجهم على هواتف موزعة، فهل يمكن للتطبيقات الحالية استدعاؤها بسهولة؟
على الأقل، أصبح لهذا المسار التقني مثال قابل للتشغيل.
أما تحويله إلى مشروع تجاري، فلا يزال يتطلب مواصلة التحقق من زمن الاستجابة، والتزامن، والتكلفة، والاستقرار على المدى الطويل.
يتولى $ACU في Acurast ربط استخدام الشبكة بالحوافز المرتبطة بالقدرة الحاسوبية، لكن الجاذبية الفعلية للطلب المدفوع ستعتمد في النهاية على مدى قدرة هذه التطبيقات على المنافسة.
