Os sistemas de IA agora consomem 5 vezes mais tokens do que os seres humanos e seu uso aumentou 14 vezes desde fevereiro.
Mais de 85% do consumo de tokens pelos sistemas inteligentes vem de consultas armazenadas, nas quais os sistemas se repetem na tentativa de atingir objetivos, em vez de fazer perguntas individuais.
Este é um dos principais motivos do grande aumento na demanda por chips de memória, e a Nvidia informou recentemente aos clientes que espera um aumento de preços de 15% ou mais.
Mais de 85% do consumo de tokens pelos sistemas inteligentes vem de consultas armazenadas, nas quais os sistemas se repetem na tentativa de atingir objetivos, em vez de fazer perguntas individuais.
Este é um dos principais motivos do grande aumento na demanda por chips de memória, e a Nvidia informou recentemente aos clientes que espera um aumento de preços de 15% ou mais.