Les systèmes d’intelligence artificielle consomment désormais 5 fois plus de jetons que les humains, et leur utilisation a augmenté de 14 fois depuis le mois de février.
Plus de 85 % de la consommation de jetons par les systèmes intelligents provient des requêtes mises en cache, où les systèmes se répètent dans leurs tentatives pour atteindre leurs objectifs plutôt que de poser des questions isolées.
C’est l’une des principales raisons de la forte hausse de la demande pour les puces mémoire, et Nvidia a récemment informé ses clients d’une prévision d’augmentation des prix de 15 % ou plus.
Plus de 85 % de la consommation de jetons par les systèmes intelligents provient des requêtes mises en cache, où les systèmes se répètent dans leurs tentatives pour atteindre leurs objectifs plutôt que de poser des questions isolées.
C’est l’une des principales raisons de la forte hausse de la demande pour les puces mémoire, et Nvidia a récemment informé ses clients d’une prévision d’augmentation des prix de 15 % ou plus.