【O maior buraco negro de poder computacional em um cluster de 10 mil GPUs: por que 80% da conta de luz dos grandes modelos globais é gasta calculando 0 vezes 0?】
A startup chinesa de chips de IA Moore Threads, revelação de Shenzhen, acaba de captar quase 1 bilhão de yuans em uma rodada C+, arrecadando quase 2 bilhões em duas rodadas no espaço de seis meses! A empresa expôs uma das feridas mais ocultas da infraestrutura global de computação: o imposto sobre computação de valor zero (Zero-Value Compute Tax).
O cérebro humano tem 86 bilhões de neurônios, mas, a cada pensamento, apenas 1% a 2% deles são ativados, consumindo apenas 20 watts. Já as arquiteturas tradicionais de computação densa das GPUs vêm da renderização de jogos 3D: mesmo que, durante a inferência de grandes modelos com centenas de bilhões de parâmetros, mais de 80% dos pesos e valores de ativação sejam 0, as GPUs tradicionais ainda precisam carregar cada 0 vezes X para os registradores e calculá-lo — desperdiçando enormes quantidades de largura de banda de memória e energia!
A arquitetura Antoum, desenvolvida pela Moore Threads, inaugura um algoritmo de dupla esparsidade (esparsidade estática de pesos + esparsidade dinâmica de ativações). Ela pula diretamente, no nível do silício, as operações com zeros sem valor, oferece uma taxa de esparsidade de até 32 vezes e alcança um poder computacional equivalente a 3774 TOPS com apenas 300 watts.
Isso também representa um ponto de virada importante para o Web3 e as redes descentralizadas de computação DePIN: quando os agentes de IA entrarem na era das interações autônomas de alta frequência na blockchain, 24 horas por dia, 7 dias por semana, o que determinará quem vence não será quem empilhar placas gráficas mais caras, mas quem conseguir reduzir em uma ordem de grandeza o custo de inferência de cada token usando computação esparsa! Você acha que a inovação arquitetônica pode quebrar o monopólio do poder computacional?
#BTC #Crypto #AI #Web3
A startup chinesa de chips de IA Moore Threads, revelação de Shenzhen, acaba de captar quase 1 bilhão de yuans em uma rodada C+, arrecadando quase 2 bilhões em duas rodadas no espaço de seis meses! A empresa expôs uma das feridas mais ocultas da infraestrutura global de computação: o imposto sobre computação de valor zero (Zero-Value Compute Tax).
O cérebro humano tem 86 bilhões de neurônios, mas, a cada pensamento, apenas 1% a 2% deles são ativados, consumindo apenas 20 watts. Já as arquiteturas tradicionais de computação densa das GPUs vêm da renderização de jogos 3D: mesmo que, durante a inferência de grandes modelos com centenas de bilhões de parâmetros, mais de 80% dos pesos e valores de ativação sejam 0, as GPUs tradicionais ainda precisam carregar cada 0 vezes X para os registradores e calculá-lo — desperdiçando enormes quantidades de largura de banda de memória e energia!
A arquitetura Antoum, desenvolvida pela Moore Threads, inaugura um algoritmo de dupla esparsidade (esparsidade estática de pesos + esparsidade dinâmica de ativações). Ela pula diretamente, no nível do silício, as operações com zeros sem valor, oferece uma taxa de esparsidade de até 32 vezes e alcança um poder computacional equivalente a 3774 TOPS com apenas 300 watts.
Isso também representa um ponto de virada importante para o Web3 e as redes descentralizadas de computação DePIN: quando os agentes de IA entrarem na era das interações autônomas de alta frequência na blockchain, 24 horas por dia, 7 dias por semana, o que determinará quem vence não será quem empilhar placas gráficas mais caras, mas quem conseguir reduzir em uma ordem de grandeza o custo de inferência de cada token usando computação esparsa! Você acha que a inovação arquitetônica pode quebrar o monopólio do poder computacional?
#BTC #Crypto #AI #Web3
