من يدعم الذكاء الاصطناعي من وراء الكواليس؟
@Fluence أمرٌ واحد أراه مثيرًا للاهتمام حول وكلاء الذكاء الاصطناعي هو أن التأخير لا يكون دائمًا سببه النموذج نفسه.
يمكن للوكيل إجراء عدة استدعاءات لأدوات، واسترجاع الحالة، وتشغيل عمليات التحقق، وتحديث الذاكرة، ثم تكرار الحلقة عدة مرات. قد تبدو عدة أجزاء من الملي ثانية من تأخير المعالج في كل خطوة غير مهمة بحد ذاتها، لكن مع مرورها عبر سير العمل كاملًا، يمكن أن تتراكم تلك التأخيرات وتدفع الطلب إلى ما بعد موعده النهائي.
هنا تصبح البنية التحتية أكثر أهمية مما قد يبدو في البداية.
بالنسبة لأحمال عمل الذكاء الاصطناعي، فإن متوسط الأداء ليس دائمًا كافيًا. قد يظهر التحدي الحقيقي عندما يتسبب التنافس على وحدة المعالجة المركزية في تأخيرات صغيرة عبر مراحل كثيرة.
وهذا يجعل تخصيص موارد حسابية مخصصة خيارًا مثيرًا للاهتمام للأحمال التي تهمها إمكانية الحصول على أداء يمكن التنبؤ به.
تعمل Fluence على معالجة هذا من جانب الحوسبة اللامركزية، ما يتيح للمطورين الوصول إلى موارد CPU مخصصة للأحمال التي تحتاج إلى سعة أكثر اتساقًا.
أعتقد أن هذا سيصبح أكثر أهمية مع انتقال وكلاء الذكاء الاصطناعي من التجارب البسيطة إلى بيئات الإنتاج. عندما يتولى الوكيل عشرات الخطوات، فإن تقليل التباين في كل مرحلة يمكن أن يحدث أثرًا أكبر بكثير على تجربة المستخدم النهائية.
السؤال الذي أراقبه بسيط: مع تعقُّد أحمال عمل الوكلاء، هل ستصبح الحوسبة القابلة للتنبؤ بنفس أهمية القدرة الخام على الحوسبة؟
https://fluence.ai/
#Fluence #AI #DePIN