【Le plus grand gouffre de calcul des clusters de 10 000 GPU : pourquoi 80 % de la facture d’électricité des grands modèles mondiaux sert-elle à calculer 0 multiplié par 0 ?】
La jeune pousse chinoise des puces d’IA, Moore Threads Intelligence, vient de boucler une levée de fonds de près d’un milliard de yuans lors de son tour C+ ; en six mois, elle a récolté près de 2 milliards en deux tours ! Elle a mis au jour l’une des failles les plus secrètes des infrastructures mondiales de calcul : la « taxe sur le calcul à valeur nulle » (Zero-Value Compute Tax).
Le cerveau humain compte 86 milliards de neurones, mais à chaque pensée, seuls 1 à 2 % d’entre eux s’activent par décharge électrique, pour une consommation de seulement 20 watts. À l’inverse, les GPU traditionnels reposent sur une architecture de calcul dense, conçue à l’origine pour le rendu de jeux 3D : même si, lors de l’inférence d’un grand modèle comptant 100 milliards de paramètres, plus de 80 % des poids et des valeurs d’activation sont égaux à 0, un GPU classique doit tout de même charger chaque 0 multiplié par X dans un registre et effectuer le calcul, gaspillant ainsi des quantités considérables de bande passante mémoire et d’électricité !
L’architecture Antoum développée en interne par Moore Threads introduit une première avec son algorithme de double parcimonie (parcimonie statique des poids + parcimonie dynamique des activations) : elle ignore directement les calculs inutiles portant sur des valeurs nulles, au niveau même de la puce. Elle prend en charge un taux de parcimonie pouvant atteindre 32 fois et délivre une puissance de calcul équivalente à 3 774 TOPS pour une consommation de 300 watts.
C’est aussi un tournant majeur pour les réseaux de calcul décentralisés Web3 et DePIN : à l’heure où les agents d’IA entrent dans une ère d’interactions autonomes on-chain à haute fréquence, 24 heures sur 24 et 7 jours sur 7, ce n’est plus celui qui empile les cartes graphiques les plus chères qui l’emporte, mais celui qui peut réduire d’un ordre de grandeur le coût d’inférence de chaque token grâce au calcul parcimonieux ! Pensez-vous que l’innovation architecturale puisse briser le monopole du calcul ?
#BTC #Crypto #AI #Web3
La jeune pousse chinoise des puces d’IA, Moore Threads Intelligence, vient de boucler une levée de fonds de près d’un milliard de yuans lors de son tour C+ ; en six mois, elle a récolté près de 2 milliards en deux tours ! Elle a mis au jour l’une des failles les plus secrètes des infrastructures mondiales de calcul : la « taxe sur le calcul à valeur nulle » (Zero-Value Compute Tax).
Le cerveau humain compte 86 milliards de neurones, mais à chaque pensée, seuls 1 à 2 % d’entre eux s’activent par décharge électrique, pour une consommation de seulement 20 watts. À l’inverse, les GPU traditionnels reposent sur une architecture de calcul dense, conçue à l’origine pour le rendu de jeux 3D : même si, lors de l’inférence d’un grand modèle comptant 100 milliards de paramètres, plus de 80 % des poids et des valeurs d’activation sont égaux à 0, un GPU classique doit tout de même charger chaque 0 multiplié par X dans un registre et effectuer le calcul, gaspillant ainsi des quantités considérables de bande passante mémoire et d’électricité !
L’architecture Antoum développée en interne par Moore Threads introduit une première avec son algorithme de double parcimonie (parcimonie statique des poids + parcimonie dynamique des activations) : elle ignore directement les calculs inutiles portant sur des valeurs nulles, au niveau même de la puce. Elle prend en charge un taux de parcimonie pouvant atteindre 32 fois et délivre une puissance de calcul équivalente à 3 774 TOPS pour une consommation de 300 watts.
C’est aussi un tournant majeur pour les réseaux de calcul décentralisés Web3 et DePIN : à l’heure où les agents d’IA entrent dans une ère d’interactions autonomes on-chain à haute fréquence, 24 heures sur 24 et 7 jours sur 7, ce n’est plus celui qui empile les cartes graphiques les plus chères qui l’emporte, mais celui qui peut réduire d’un ordre de grandeur le coût d’inférence de chaque token grâce au calcul parcimonieux ! Pensez-vous que l’innovation architecturale puisse briser le monopole du calcul ?
#BTC #Crypto #AI #Web3
