CTech/Nebiusの記事が流れてきた。ナスダック上場のAIクラウド企業Nebius($NBIS )が、設立からわずか約10カ月のイスラエルの推論最適化スタートアップInferizeを買収した。取引条件は公式には未公表で、CTechは1億〜1億5,000万ドルと推定している。
取り組んでいるのは具体的だ——モデルのコールドスタート時に発生する「GPUの遊休コスト」を削減すること。重みの読み込み、スケールアウト、強化学習の途中での重みの切り替え時には、GPUがしばしばアイドル状態になる。Inferizeは、実際の需要に合わせて計算リソースを柔軟に伸縮させ、Token Factoryの稼働率を高め、トークン単価を下げることを目指す。チームは約17人で、創業者はIntelに買収されたGranulateを率いた経験がある。Nebiusによると、人員と技術は推論プラットフォームに統合される。さらにその前には、Eigen AIやClarifai関連の機能も取り込んでいる。
AIが学習からデプロイへと進むなか、クラウド各社はソフトウェア層を一つずつ補強している。純粋にストーリーを語るだけの買収より、こうした小粒でも堅実なインフラ買収のほうが面白い。
$NBIS #AI #Inference #Nebius
取り組んでいるのは具体的だ——モデルのコールドスタート時に発生する「GPUの遊休コスト」を削減すること。重みの読み込み、スケールアウト、強化学習の途中での重みの切り替え時には、GPUがしばしばアイドル状態になる。Inferizeは、実際の需要に合わせて計算リソースを柔軟に伸縮させ、Token Factoryの稼働率を高め、トークン単価を下げることを目指す。チームは約17人で、創業者はIntelに買収されたGranulateを率いた経験がある。Nebiusによると、人員と技術は推論プラットフォームに統合される。さらにその前には、Eigen AIやClarifai関連の機能も取り込んでいる。
AIが学習からデプロイへと進むなか、クラウド各社はソフトウェア層を一つずつ補強している。純粋にストーリーを語るだけの買収より、こうした小粒でも堅実なインフラ買収のほうが面白い。
$NBIS #AI #Inference #Nebius