🚨🚨 أوراق من أكسفورد وكامبريدج خارج الخدمة، نُشرت في مجلة Nature، ضع اسمًا عليها: انهيار النموذج.
السيناريو بسيط. درّب نموذجًا. دعه يكتب. درّب النموذج التالي على ذلك المكتوب. كرّر.
في كل جيل، تصبح البيانات أضيق. تتساقط الأطراف أولًا — حقائق نادرة، صياغات غريبة، الشيء الذي يضعه شخص فقط. ما يبقى هو المتوسط. يتعلم النموذج التالي المتوسط. بعد عدد كافٍ من الدورات لا تحصل على نظام أذكى. تحصل على صدىً بليغًا.
هذه ليست مشكلة فشلٍ في روبوت محادثة واحد. يُظهر المؤلفون ذلك عبر إعدادات توليد متعددة. إذا امتلأ الويب بنصوص آلية وأصبح هذا النص مجموعة التدريب، فإن النموذج التالي لا يتعلم العالم. بل يتعلم نفسه.
المختبرات تعرف ذلك بالفعل. لذلك ما زالوا يدفعون مقابل بيانات بشرية وتراخيص ومنتديات مغلقة. لم يعد تعذيب الـGPUs هو المدخل النادر. النص الأصلي النظيف هو ذلك.
لذلك فإن تجارة الذكاء الاصطناعي لها ساعتان. إحداهما هي الائتمان — المباني وعقود الإيجار لمدة 20 عامًا. والأخرى هي نظام غذاء البيانات. لا يمكن للإنفاق الرأسمالي طباعة الأطراف.
راقب أي ساعة تصل أولًا.
ليست نصيحة مالية.
السيناريو بسيط. درّب نموذجًا. دعه يكتب. درّب النموذج التالي على ذلك المكتوب. كرّر.
في كل جيل، تصبح البيانات أضيق. تتساقط الأطراف أولًا — حقائق نادرة، صياغات غريبة، الشيء الذي يضعه شخص فقط. ما يبقى هو المتوسط. يتعلم النموذج التالي المتوسط. بعد عدد كافٍ من الدورات لا تحصل على نظام أذكى. تحصل على صدىً بليغًا.
هذه ليست مشكلة فشلٍ في روبوت محادثة واحد. يُظهر المؤلفون ذلك عبر إعدادات توليد متعددة. إذا امتلأ الويب بنصوص آلية وأصبح هذا النص مجموعة التدريب، فإن النموذج التالي لا يتعلم العالم. بل يتعلم نفسه.
المختبرات تعرف ذلك بالفعل. لذلك ما زالوا يدفعون مقابل بيانات بشرية وتراخيص ومنتديات مغلقة. لم يعد تعذيب الـGPUs هو المدخل النادر. النص الأصلي النظيف هو ذلك.
لذلك فإن تجارة الذكاء الاصطناعي لها ساعتان. إحداهما هي الائتمان — المباني وعقود الإيجار لمدة 20 عامًا. والأخرى هي نظام غذاء البيانات. لا يمكن للإنفاق الرأسمالي طباعة الأطراف.
راقب أي ساعة تصل أولًا.
ليست نصيحة مالية.