🚨 SO EBEN:
$NBIS hat Inferize, ein Startup für KI-Inferenzoptimierung, übernommen, um seinen Token-Factory-Produktions-Stack für Inferenz zu stärken.
Die Technologie von Inferize ist darauf ausgelegt, so genannte „Cold Starts“ zu reduzieren – also die Zeit, die KI-Modelle benötigen, um zu laden, bevor sie Anfragen bereitstellen können. Dadurch können GPUs in Phasen mit hoher Nachfrage, bei neuen Instanz-Starts oder bei Modell-Updates ungenutzt herumstehen.
Durch die Integration der Technologie und des Engineering-Teams von Inferize in Token Factory sagt Nebius, dass man die GPU-Auslastung verbessern, die Kapazität flexibler machen, die Inferenzkosten senken und mehr Kundennachfrage mit derselben Infrastruktur bedienen möchte.
$NBIS hat Inferize, ein Startup für KI-Inferenzoptimierung, übernommen, um seinen Token-Factory-Produktions-Stack für Inferenz zu stärken.
Die Technologie von Inferize ist darauf ausgelegt, so genannte „Cold Starts“ zu reduzieren – also die Zeit, die KI-Modelle benötigen, um zu laden, bevor sie Anfragen bereitstellen können. Dadurch können GPUs in Phasen mit hoher Nachfrage, bei neuen Instanz-Starts oder bei Modell-Updates ungenutzt herumstehen.
Durch die Integration der Technologie und des Engineering-Teams von Inferize in Token Factory sagt Nebius, dass man die GPU-Auslastung verbessern, die Kapazität flexibler machen, die Inferenzkosten senken und mehr Kundennachfrage mit derselben Infrastruktur bedienen möchte.
