Lướt thấy tin từ CTech/Nebius: Công ty điện toán đám mây AI Nebius niêm yết trên Nasdaq ($NBIS ) đã mua lại Inferize, startup Israel chuyên tối ưu suy luận mới thành lập khoảng 10 tháng. Các điều khoản giao dịch chưa được công bố chính thức; CTech ước tính giá trị thương vụ vào khoảng 100–150 triệu USD.
Họ giải quyết một vấn đề rất cụ thể — cắt giảm phần «thuế GPU nhàn rỗi» trong giai đoạn khởi động mô hình. Khi tải trọng số, mở rộng quy mô hoặc thay trọng số giữa chừng trong quá trình học tăng cường, GPU thường phải nằm chờ; Inferize muốn giúp năng lực tính toán co giãn sát hơn với nhu cầu thực tế, nâng tỷ lệ sử dụng công suất của Token Factory và giảm chi phí trên mỗi token. Đội ngũ có khoảng 17 người; nhà sáng lập từng dẫn dắt Granulate, công ty được Intel mua lại. Nebius cho biết nhân sự và công nghệ sẽ được tích hợp vào nền tảng suy luận; trước đó, họ cũng đã bổ sung các năng lực liên quan đến Eigen AI và Clarifai.
Khi AI chuyển từ cơn sốt huấn luyện sang triển khai, các nhà cung cấp đám mây đang từng bước bồi đắp lớp phần mềm. Những thương vụ mua lại cơ sở hạ tầng nhỏ nhưng thiết thực như thế này thú vị hơn nhiều so với những câu chuyện chỉ để kể.
$NBIS #AI #Inference #Nebius
Họ giải quyết một vấn đề rất cụ thể — cắt giảm phần «thuế GPU nhàn rỗi» trong giai đoạn khởi động mô hình. Khi tải trọng số, mở rộng quy mô hoặc thay trọng số giữa chừng trong quá trình học tăng cường, GPU thường phải nằm chờ; Inferize muốn giúp năng lực tính toán co giãn sát hơn với nhu cầu thực tế, nâng tỷ lệ sử dụng công suất của Token Factory và giảm chi phí trên mỗi token. Đội ngũ có khoảng 17 người; nhà sáng lập từng dẫn dắt Granulate, công ty được Intel mua lại. Nebius cho biết nhân sự và công nghệ sẽ được tích hợp vào nền tảng suy luận; trước đó, họ cũng đã bổ sung các năng lực liên quan đến Eigen AI và Clarifai.
Khi AI chuyển từ cơn sốt huấn luyện sang triển khai, các nhà cung cấp đám mây đang từng bước bồi đắp lớp phần mềm. Những thương vụ mua lại cơ sở hạ tầng nhỏ nhưng thiết thực như thế này thú vị hơn nhiều so với những câu chuyện chỉ để kể.
$NBIS #AI #Inference #Nebius