AI-инференс, обгон на повороте
На протяжении многих лет NVIDIA занимает лидирующие позиции на рынке AI-чипов, хотя другие компании постоянно пытаются, но так и не смогли поколебать ее господствующее положение.
Но сегодня ситуация меняется. «Инференс-вычисления» становятся ключевым словом этой революции в области AI-технологий.
Будь то технологические гиганты или небольшие стартапы, все нацелились на создание кастомизированных чипов для AI, например, Groq, Cerebras Systems и так далее.
Meta является典型ным примером. Хотя они использовали чипы NVIDIA для обучения Llama3.1 405B, на практике для предоставления услуг пользователям они используют чипы AMD MI300s.
На протяжении многих лет NVIDIA занимает лидирующие позиции на рынке AI-чипов, хотя другие компании постоянно пытаются, но так и не смогли поколебать ее господствующее положение.
Но сегодня ситуация меняется. «Инференс-вычисления» становятся ключевым словом этой революции в области AI-технологий.
Будь то технологические гиганты или небольшие стартапы, все нацелились на создание кастомизированных чипов для AI, например, Groq, Cerebras Systems и так далее.
Meta является典型ным примером. Хотя они использовали чипы NVIDIA для обучения Llama3.1 405B, на практике для предоставления услуг пользователям они используют чипы AMD MI300s.