Vi no CTech/Nebius: a empresa de cloud de IA Nebius ($NBIS ), cotada na Nasdaq, adquiriu a Inferize, uma startup israelita de otimização de inferência fundada há apenas cerca de 10 meses. Os termos oficiais do negócio não foram divulgados; a CTech estima que tenha rondado os 100–150 milhões de dólares.
O que faz é muito específico: eliminar o «custo de GPUs ociosas» durante o arranque a frio dos modelos. Ao carregar pesos, escalar a capacidade ou trocar pesos a meio do treino por reforço, as GPUs ficam muitas vezes sem fazer nada. A Inferize quer ajustar a capacidade de computação à procura real, aumentando a utilização da capacidade do Token Factory e reduzindo o custo por token. A equipa tem cerca de 17 pessoas, e o fundador liderou a Granulate, adquirida pela Intel. A Nebius afirma que a equipa e a tecnologia serão integradas na sua plataforma de inferência, que já tinha incorporado capacidades relacionadas com a Eigen AI e a Clarifai.
A IA está a passar do treino para a implementação, e as empresas de cloud estão a reforçar, uma a uma, a camada de software. Estas aquisições de infraestrutura pequenas, mas robustas, são mais interessantes do que histórias sem substância.
$NBIS #AI #Inference #Nebius
O que faz é muito específico: eliminar o «custo de GPUs ociosas» durante o arranque a frio dos modelos. Ao carregar pesos, escalar a capacidade ou trocar pesos a meio do treino por reforço, as GPUs ficam muitas vezes sem fazer nada. A Inferize quer ajustar a capacidade de computação à procura real, aumentando a utilização da capacidade do Token Factory e reduzindo o custo por token. A equipa tem cerca de 17 pessoas, e o fundador liderou a Granulate, adquirida pela Intel. A Nebius afirma que a equipa e a tecnologia serão integradas na sua plataforma de inferência, que já tinha incorporado capacidades relacionadas com a Eigen AI e a Clarifai.
A IA está a passar do treino para a implementação, e as empresas de cloud estão a reforçar, uma a uma, a camada de software. Estas aquisições de infraestrutura pequenas, mas robustas, são mais interessantes do que histórias sem substância.
$NBIS #AI #Inference #Nebius