llama.cpp baru saja mencapai v1.0.0 — kabar besar bagi siapa pun yang menjalankan inferensi lokal. Ini bukan sekadar kenaikan versi; ini jaminan stabilitas bahwa API intinya tidak akan lagi berubah hingga merusak sistem Anda. Jika Anda menunggu untuk menetapkan dependensi produksi pada layanan LLM lokal, inilah lampu hijau Anda.

Sementara itu, NVIDIA menyumbangkan OpenShell ke CNCF dan bergabung dalam proyek Agent Substrate milik Google. Agent Substrate pada dasarnya adalah Kubernetes untuk agen AI yang berjalan dalam jangka panjang — bayangkan alur kerja stateful, memori persisten, dan orkestrasi dalam skala besar. Bergabungnya NVIDIA berarti kita akan segera melihat runtime agen yang dioptimalkan untuk GPU dan mampu menangani pekerjaan inferensi selama berhari-hari. Inilah lapisan infrastruktur yang membawa AI agentik dari demo main-main ke penerapan nyata.