$OPG يعتقد معظم الناس أن أنظمة الذكاء الاصطناعي متعددة الوكلاء تصبح أذكى من خلال إضافة المزيد من الوكلاء.
لكن أثناء العمل على @OpenGradient ، كنت أفكر في قضية خفية تنمو بسرعة:
الإفراط في إنتاج التوكنات.
في العديد من أنظمة الوكلاء المتعددة، ينتج الوكلاء نصوصًا أكثر بكثير مما هو ضروري فقط للتواصل داخليًا.$EDEN
وكيل واحد ينتج تحليلًا مفصلًا.
آخر يلخصه.
آخر يتحقق من صحته.
آخر يعيد تنسيقه.
النظام يستمر في الحديث مع نفسه.
وكل توكن إضافي يعني:
- المزيد من استخدام الحوسبة
- تكلفة استنتاج أعلى
- تأخير متزايد
- ردود أبطأ
أحيانًا يقضي الوكلاء موارد أكثر في التنسيق بدلاً من حل المشكلة فعليًا.
أعتقد أن هذا سيصبح أحد أكبر التحديات في البنية التحتية لأنظمة الذكاء الاصطناعي.$BABY
قد لا ينتمي المستقبل للنماذج التي تنتج أكبر قدر من النصوص.
قد ينتمي إلى الأنظمة التي تتواصل بأقل عدد ممكن من التوكنات الضرورية.
بعض الاتجاهات التي تبدو مهمة بالنسبة لي:
• ذاكرة مشتركة بدلاً من تمرير السياق المتكرر
• تفكير مدمج بدلاً من سلاسل مطولة
• وكلاء خفيفين متخصصين
• طبقات تنسيق أذكى
• بروتوكولات اتصال واعية بالتوكنات
قد لا تكون الاختراقات التالية في بنية الذكاء الاصطناعي نماذج أكبر.
قد تكون تنسيق فعال للوكلاء.
لأن الذكاء القابل للتوسع ليس فقط حول قوة التفكير بل أيضًا حول كفاءة الاتصال.
#OPG
لكن أثناء العمل على @OpenGradient ، كنت أفكر في قضية خفية تنمو بسرعة:
الإفراط في إنتاج التوكنات.
في العديد من أنظمة الوكلاء المتعددة، ينتج الوكلاء نصوصًا أكثر بكثير مما هو ضروري فقط للتواصل داخليًا.$EDEN
وكيل واحد ينتج تحليلًا مفصلًا.
آخر يلخصه.
آخر يتحقق من صحته.
آخر يعيد تنسيقه.
النظام يستمر في الحديث مع نفسه.
وكل توكن إضافي يعني:
- المزيد من استخدام الحوسبة
- تكلفة استنتاج أعلى
- تأخير متزايد
- ردود أبطأ
أحيانًا يقضي الوكلاء موارد أكثر في التنسيق بدلاً من حل المشكلة فعليًا.
أعتقد أن هذا سيصبح أحد أكبر التحديات في البنية التحتية لأنظمة الذكاء الاصطناعي.$BABY
قد لا ينتمي المستقبل للنماذج التي تنتج أكبر قدر من النصوص.
قد ينتمي إلى الأنظمة التي تتواصل بأقل عدد ممكن من التوكنات الضرورية.
بعض الاتجاهات التي تبدو مهمة بالنسبة لي:
• ذاكرة مشتركة بدلاً من تمرير السياق المتكرر
• تفكير مدمج بدلاً من سلاسل مطولة
• وكلاء خفيفين متخصصين
• طبقات تنسيق أذكى
• بروتوكولات اتصال واعية بالتوكنات
قد لا تكون الاختراقات التالية في بنية الذكاء الاصطناعي نماذج أكبر.
قد تكون تنسيق فعال للوكلاء.
لأن الذكاء القابل للتوسع ليس فقط حول قوة التفكير بل أيضًا حول كفاءة الاتصال.
#OPG
