localllm

0 vues
2 mentions
斯奎奇大王牢A
·
--
Voir la traduction
Tonight a 26B model at ~20GB became a lot of people's local default. Capability stopped being the constraint - memory bandwidth did, and the runtimes still lag the weights. What are you running locally? #AI #LocalLLM
Tonight a 26B model at ~20GB became a lot of people's local default. Capability stopped being the constraint - memory bandwidth did, and the runtimes still lag the weights. What are you running locally? #AI #LocalLLM
Connectez-vous pour découvrir plus de contenu
Rejoignez la communauté mondiale des adeptes de cryptomonnaies sur Binance Square
⚡️ Suviez les dernières informations importantes sur les cryptomonnaies.
💬 Jugé digne de confiance par la plus grande plateforme d’échange de cryptomonnaies au monde.
👍 Découvrez les connaissances que partagent les créateurs vérifiés.
Adresse e-mail/Nº de téléphone