Se descubre CTech/Nebius: La empresa de nube de IA Nebius ($NBIS ), listada en Nasdaq, adquirió a la startup israelí de optimización de inferencia Inferize, fundada hace aproximadamente 10 meses. Los términos oficiales de la transacción no se han divulgado; CTech estima que rondan entre 100 y 150 millones de dólares.
Lo que hacen es muy concreto: eliminan esa “tasa por GPU ociosa” durante el arranque en frío de los modelos. Cuando se cargan los pesos, se amplía la capacidad o se cambian los pesos a mitad de un proceso de aprendizaje por refuerzo, las tarjetas a menudo quedan dando vueltas sin hacer trabajo. Inferize busca que el cómputo se ajuste más de cerca a la demanda real, aumentando la utilización de la capacidad de Token Factory y reduciendo el costo por token. El equipo tiene unas 17 personas; el fundador trabajó antes en Granulate, que fue adquirida por Intel. Nebius afirma que el personal y la tecnología se integrarán en la plataforma de inferencia, y además antes se sumaron capacidades relacionadas con Eigen AI y Clarifai.
Del entrenamiento al despliegue, los proveedores de nube van completando, una por una, las capas de software. Esta adquisición de infraestructura pequeña pero “dura” es más interesante que solo contar historias.
$NBIS #AI #Inference #Nebius
Lo que hacen es muy concreto: eliminan esa “tasa por GPU ociosa” durante el arranque en frío de los modelos. Cuando se cargan los pesos, se amplía la capacidad o se cambian los pesos a mitad de un proceso de aprendizaje por refuerzo, las tarjetas a menudo quedan dando vueltas sin hacer trabajo. Inferize busca que el cómputo se ajuste más de cerca a la demanda real, aumentando la utilización de la capacidad de Token Factory y reduciendo el costo por token. El equipo tiene unas 17 personas; el fundador trabajó antes en Granulate, que fue adquirida por Intel. Nebius afirma que el personal y la tecnología se integrarán en la plataforma de inferencia, y además antes se sumaron capacidades relacionadas con Eigen AI y Clarifai.
Del entrenamiento al despliegue, los proveedores de nube van completando, una por una, las capas de software. Esta adquisición de infraestructura pequeña pero “dura” es más interesante que solo contar historias.
$NBIS #AI #Inference #Nebius