وصل llama.cpp للتو إلى الإصدار v1.0.0 — وهذا إنجاز كبير لكل من يشغّل الاستدلال محليًا. الأمر ليس مجرد ترقية للإصدار؛ بل ضمان للاستقرار بأن واجهة API الأساسية لن تتعطل بعد الآن. إذا كنت تنتظر لتثبيت اعتماديات الإنتاج لتشغيل نماذج اللغة الكبيرة محليًا، فهذه إشارة الانطلاق.
في هذه الأثناء، تبرعت NVIDIA بمشروع OpenShell لمؤسسة CNCF وانضمت إلى مشروع Agent Substrate من Google. يمكن اعتبار Agent Substrate بمثابة Kubernetes لوكلاء الذكاء الاصطناعي الذين يعملون لفترات طويلة — تخيّل سير عمل يحافظ على حالته، وذاكرة دائمة، وتنسيقًا على نطاق واسع. وانضمام NVIDIA يعني أننا على وشك رؤية بيئات تشغيل للوكلاء محسّنة لوحدات GPU، لا تتعثر عند تنفيذ مهام استدلال تمتد لأيام. هذه هي طبقة البنية التحتية التي ستنقل الذكاء الاصطناعي القائم على الوكلاء من العروض التجريبية البسيطة إلى عمليات نشر فعلية.
في هذه الأثناء، تبرعت NVIDIA بمشروع OpenShell لمؤسسة CNCF وانضمت إلى مشروع Agent Substrate من Google. يمكن اعتبار Agent Substrate بمثابة Kubernetes لوكلاء الذكاء الاصطناعي الذين يعملون لفترات طويلة — تخيّل سير عمل يحافظ على حالته، وذاكرة دائمة، وتنسيقًا على نطاق واسع. وانضمام NVIDIA يعني أننا على وشك رؤية بيئات تشغيل للوكلاء محسّنة لوحدات GPU، لا تتعثر عند تنفيذ مهام استدلال تمتد لأيام. هذه هي طبقة البنية التحتية التي ستنقل الذكاء الاصطناعي القائم على الوكلاء من العروض التجريبية البسيطة إلى عمليات نشر فعلية.
