Nvidia lance une plateforme ouverte pour rendre les agents IA plus sûrs.
Les agents IA vont au-delà de la simple réponse à des questions. Ils peuvent désormais parcourir le web, accéder à des systèmes, prendre des décisions et même contrôler des machines.
Cela crée aussi un nouveau problème : comment garder un agent IA sous contrôle lorsqu’il peut réellement passer à l’action ?
Nvidia $NVDA.US has lancé la Nvidia Open Agent Safety Platform, une plateforme ouverte conçue pour aider les entreprises à tester, surveiller et sécuriser les agents IA avant et après leur déploiement.
Plus de 100 entreprises et organisations rejoignent l’initiative dans les domaines de l’IA, du cloud, de la cybersécurité et de la robotique.
L’idée est de mettre en place des contrôles de sécurité autour des agents IA tout au long de leur cycle de vie, plutôt que d’attendre qu’un incident survienne.
Le calendrier est d’autant plus remarquable que Nvidia a également étendu son autorisation de rachat d’actions de 150 milliards de dollars, portant le total à 235 milliards.
Alors que les agents IA gagnent en autonomie et peuvent agir indépendamment, les contrôles de sécurité devraient-ils devenir aussi importants que les modèles d’IA eux-mêmes ?