localllm

0 visualizações
2 a discutir
斯奎奇大王牢A
·
--
Ver tradução
Tonight a 26B model at ~20GB became a lot of people's local default. Capability stopped being the constraint - memory bandwidth did, and the runtimes still lag the weights. What are you running locally? #AI #LocalLLM
Tonight a 26B model at ~20GB became a lot of people's local default. Capability stopped being the constraint - memory bandwidth did, and the runtimes still lag the weights. What are you running locally? #AI #LocalLLM
Inicia sessão para explorar mais conteúdos
Junta-te a utilizadores de criptomoedas de todo o mundo na Binance Square
⚡️ Obtém informações úteis e recentes sobre criptomoedas.
💬 Com a confiança da maior exchange de criptomoedas do mundo.
👍 Descobre perspetivas reais de criadores verificados.
E-mail/Número de telefone