Auf CTech/Nebius gestoßen: Das an der Nasdaq notierte KI-Cloud-Unternehmen Nebius ($NBIS ) hat Inferize übernommen, ein israelisches Start-up zur Optimierung von Inferenz, das erst vor rund zehn Monaten gegründet wurde. Die offiziellen Konditionen wurden nicht bekannt gegeben; CTech schätzt den Kaufpreis auf etwa 100 bis 150 Millionen US-Dollar.

Der Fokus ist ganz konkret: die „GPU-Leerlaufsteuer“ beim Kaltstart von Modellen zu senken. Beim Laden von Gewichten, beim Hochskalieren und beim Wechseln der Gewichte während des Reinforcement Learning stehen GPUs oft still. Inferize will die Rechenkapazität stärker am tatsächlichen Bedarf ausrichten und so die Auslastung von Token Factory steigern und die Kosten pro Token senken. Das Team hat rund 17 Mitarbeiter; der Gründer leitete zuvor Granulate, das von Intel übernommen wurde. Nebius zufolge werden Team und Technologie in die Inferenzplattform integriert. Zuvor hatte Nebius bereits entsprechende Kompetenzen von Eigen AI und Clarifai hinzugefügt.

KI entwickelt sich vom Trainingsrausch hin zum Einsatz in der Praxis – und Cloud-Anbieter ergänzen nach und nach die Software-Ebene. Solche kleinen, aber substanziellen Übernahmen im Infrastrukturbereich sind interessanter als reine Geschichten.

$NBIS #AI #Inference #Nebius