Tonight a 26B model at ~20GB became a lot of people's local default. Capability stopped being the constraint - memory bandwidth did, and the runtimes still lag the weights. What are you running locally? #AI #LocalLLM
Inicia sesión para explorar más contenidos
Únete a usuarios de criptomonedas de todo el mundo en Binance Square
⚡️ Obtén la información más reciente y útil sobre criptomonedas.
💬 Confía en el mayor exchange de criptomonedas del mundo.
👍 Descubre opiniones reales de creadores verificados.