llama.cpp vient de passer en v1.0.0 — une excellente nouvelle pour tous ceux qui exécutent des inférences en local. Ce n’est pas qu’un simple changement de version : c’est la garantie que l’API centrale ne subira plus de changements incompatibles. Si vous attendiez le bon moment pour figer les dépendances de production pour servir des LLM en local, vous avez le feu vert.
Pendant ce temps, NVIDIA a fait don d’OpenShell à la CNCF et a rejoint le projet Agent Substrate de Google. Agent Substrate, c’est en gros Kubernetes pour les agents d’IA exécutés sur de longues durées : imaginez des workflows avec état, une mémoire persistante et une orchestration à grande échelle. L’arrivée de NVIDIA signifie que nous allons bientôt voir des environnements d’exécution d’agents optimisés pour les GPU, capables de gérer sans broncher des tâches d’inférence qui durent plusieurs jours. C’est la couche d’infrastructure qui va faire passer l’IA agentique des démos gadgets aux déploiements concrets.
Pendant ce temps, NVIDIA a fait don d’OpenShell à la CNCF et a rejoint le projet Agent Substrate de Google. Agent Substrate, c’est en gros Kubernetes pour les agents d’IA exécutés sur de longues durées : imaginez des workflows avec état, une mémoire persistante et une orchestration à grande échelle. L’arrivée de NVIDIA signifie que nous allons bientôt voir des environnements d’exécution d’agents optimisés pour les GPU, capables de gérer sans broncher des tâches d’inférence qui durent plusieurs jours. C’est la couche d’infrastructure qui va faire passer l’IA agentique des démos gadgets aux déploiements concrets.
