🚀 AI a primit o actualizare serioasă de viteză!
Împreună, AI livrează acum viteze record de inferență — până la 334 tokeni/sec — datorită noului său motor construit pentru GPU-urile Blackwell de la NVIDIA. Testat de companii precum Zoom și Salesforce, această tehnologie împinge limitele performanței și eficienței.
🧠 Stiva lor personalizată folosește:
• Cores Tensor de generația a 5-a
• Cadru kernel ThunderKittens
• Turbo Speculator pentru decodare rapidă și precisă
• Quantizare fără pierderi pentru a menține calitatea modelului
Cu aceste progrese, Together AI devine rapid un jucător de top în modelele de raționare open-source și infrastructura AI.
👉 Urmăriți-ne pentru mai multe actualizări în inovația AI!
#AI #NVIDIA #LLMperformance #GPUspeed #bitinsider