Nvidia dévoile une découverte révolutionnaire : des maths linéaires simples pour changer de modèles d’IA, des coûts divisés par deux
L’équipe de recherche de Nvidia a découvert que, lors de tâches où des agents IA doivent passer d’un petit modèle à un grand (ou l’inverse), il est possible de remplacer une recomputation complète et coûteuse par des calculs linéaires simples, réduisant fortement le coût d’inférence.
C’est le message le plus pointu de la tech aujourd’hui. Auparavant, lors du transfert de tâches entre grands modèles, le destinataire devait tout recalculer depuis le début sur l’intégralité de la conversation, ce qui entraînait un gaspillage massif de puissance de calcul. La solution de transfert de KV Cache de Nvidia utilise des mathématiques linéaires pour faire une correspondance, en contournant le recalcul coûteux : comme si l’on ajoutait un turbo au coût de l’inférence de l’IA.
Pour le monde de la cryptographie, ce mouvement technologique a deux implications : d’abord, le récit des jetons du secteur IA risque d’être à nouveau fortement alimenté, car la puissance de calcul et l’efficacité de l’inférence constituent la logique de base des valorisations du secteur IA ; ensuite, la baisse des coûts va accélérer l’explosion des applications IA, et les paiements liés aux applications IA sont précisément dans la direction sur laquelle de nombreux projets crypto misent.
Les percées techniques sont toujours le meilleur carburant d’un marché haussier, surtout quand elles viennent d’un acteur comme Nvidia, un baromètre de l’industrie. L’intersection entre l’IA et la crypto, en tant que secteur à surveiller, mérite d’être ajoutée à votre liste d’observation.
Regardez ci-dessous 👇, cliquez sur la salle de discussion pour rejoindre le groupe et recevoir les stratégies quotidiennes 加入社群领取策略
L’équipe de recherche de Nvidia a découvert que, lors de tâches où des agents IA doivent passer d’un petit modèle à un grand (ou l’inverse), il est possible de remplacer une recomputation complète et coûteuse par des calculs linéaires simples, réduisant fortement le coût d’inférence.
C’est le message le plus pointu de la tech aujourd’hui. Auparavant, lors du transfert de tâches entre grands modèles, le destinataire devait tout recalculer depuis le début sur l’intégralité de la conversation, ce qui entraînait un gaspillage massif de puissance de calcul. La solution de transfert de KV Cache de Nvidia utilise des mathématiques linéaires pour faire une correspondance, en contournant le recalcul coûteux : comme si l’on ajoutait un turbo au coût de l’inférence de l’IA.
Pour le monde de la cryptographie, ce mouvement technologique a deux implications : d’abord, le récit des jetons du secteur IA risque d’être à nouveau fortement alimenté, car la puissance de calcul et l’efficacité de l’inférence constituent la logique de base des valorisations du secteur IA ; ensuite, la baisse des coûts va accélérer l’explosion des applications IA, et les paiements liés aux applications IA sont précisément dans la direction sur laquelle de nombreux projets crypto misent.
Les percées techniques sont toujours le meilleur carburant d’un marché haussier, surtout quand elles viennent d’un acteur comme Nvidia, un baromètre de l’industrie. L’intersection entre l’IA et la crypto, en tant que secteur à surveiller, mérite d’être ajoutée à votre liste d’observation.
Regardez ci-dessous 👇, cliquez sur la salle de discussion pour rejoindre le groupe et recevoir les stratégies quotidiennes 加入社群领取策略