Попалось в ленте CTech/Nebius: Nebius ($NBIS ), облачная AI-компания, торгующаяся на Nasdaq, приобрела израильский стартап Inferize, занимающийся оптимизацией инференса и основанный всего около 10 месяцев назад. Официально условия сделки не раскрываются; CTech оценивает её в 100–150 млн долларов.
Задача у компании вполне конкретная — избавиться от «налога на простаивающие GPU» во время холодного старта модели. При загрузке весов, масштабировании и смене весов в процессе обучения с подкреплением ускорители нередко простаивают. Inferize стремится подстраивать вычислительные ресурсы под реальный спрос, повышая загрузку мощностей Token Factory и снижая стоимость одного токена. В команде около 17 человек; основатель руководил Granulate, которую приобрела Intel. По словам Nebius, команда и технологии войдут в платформу инференса. Ранее компания также приобрела Eigen AI и получила связанные с Clarifai возможности.
По мере того как AI переходит от обучения к развёртыванию, облачные провайдеры шаг за шагом достраивают программный слой. Такие небольшие, но стратегически важные приобретения в инфраструктуре интереснее, чем просто красивые истории.
$NBIS #AI #Inference #Nebius
Задача у компании вполне конкретная — избавиться от «налога на простаивающие GPU» во время холодного старта модели. При загрузке весов, масштабировании и смене весов в процессе обучения с подкреплением ускорители нередко простаивают. Inferize стремится подстраивать вычислительные ресурсы под реальный спрос, повышая загрузку мощностей Token Factory и снижая стоимость одного токена. В команде около 17 человек; основатель руководил Granulate, которую приобрела Intel. По словам Nebius, команда и технологии войдут в платформу инференса. Ранее компания также приобрела Eigen AI и получила связанные с Clarifai возможности.
По мере того как AI переходит от обучения к развёртыванию, облачные провайдеры шаг за шагом достраивают программный слой. Такие небольшие, но стратегически важные приобретения в инфраструктуре интереснее, чем просто красивые истории.
$NBIS #AI #Inference #Nebius