IBM đã cam kết một thỏa thuận nhiều năm trị giá 240 triệu USD với Together AI để xây dựng một cụm suy luận Nvidia chuyên dụng trên IBM Cloud, hai công ty cho biết hôm thứ Ba.
Thỏa thuận mới trao cho nhà cung cấp AI mã nguồn mở một khối năng lực GPU cấp doanh nghiệp khi hãng này đẩy mạnh hơn nữa việc thâm nhập vào các tài khoản khách hàng doanh nghiệp lớn.
Các hệ thống HGX B300 sẽ cập bến IBM Cloud vào đầu năm 2027
Theo thỏa thuận đã ký kết, IBM sẽ triển khai một cụm lớn gồm các hệ thống Nvidia HGX B300 bên trong IBM Cloud, và phần cứng này dự kiến sẽ đi vào hoạt động trong quý đầu tiên của năm 2027, theo thông cáo trên newsroom của IBM.
Together AI sẽ sử dụng năng lực này để phục vụ suy luận trên các mô hình mã nguồn mở. IBM đã khẳng định đây là cụm chuyên dụng đầu tiên có quy mô như vậy dành cho suy luận trên IBM Cloud, triển khai xoay quanh B300, được nối mạng Ethernet của Nvidia Spectrum-X.
Nvidia cho biết cấu hình này có thể tạo ra “sản lượng nhà máy AI” nhiều hơn gấp 30 lần so với thế hệ trước, dù tuyên bố này chưa được xác minh độc lập.
Các token 400 nghìn tỷ mỗi tháng của Together AI được chạy trên IBM
Trong những tháng gần đây, Together AI đã huy động được vòng gọi vốn Series C trị giá 800 triệu USD với định giá 8,3 tỷ USD. Mục tiêu là mở rộng những gì hãng gọi là AI Native Cloud.
Công ty AI được thành lập vào năm 2022 này thuê cơ sở hạ tầng đám mây cho các doanh nghiệp muốn xây dựng trên các ngăn xếp AI mở, mô-đun thay vì các mô hình đóng. Thông cáo báo chí của IBM cũng cho biết công ty hiện chuyển 400 nghìn tỷ token mỗi tháng thông qua sản phẩm suy luận và giúp cung cấp năng lực cho hơn một triệu nhà phát triển.
Cụm máy của IBM cung cấp nền tảng để Together AI triển khai kế hoạch mở rộng. CEO Vipul Ved Prakash cho biết thỏa thuận này là cách để tiếp cận nhiều khách hàng hơn mà không buộc họ phải trả giá cho các mô hình frontier.
“Doanh nghiệp muốn hiệu năng của các mô hình frontier tốt nhất mà không phải gánh thẻ giá của mô hình dạng đóng, và điều đó chỉ hoạt động nếu lớp hạ tầng bên dưới nhanh và đáng tin cậy ở quy mô lớn,” ông nói trong thông cáo. Ông cũng cho biết cụm này là “một bước tiến lớn trong nỗ lực của chúng tôi nhằm khiến AI mã nguồn mở trở thành lựa chọn hiển nhiên đối với doanh nghiệp.”
IBM mở rộng hợp tác với Nvidia để nhắm tới các startup AI
Với IBM, thương vụ với Together AI là một mắt xích khác trong mối quan hệ hợp tác với Nvidia đang tăng lên một cách tự nhiên. Alan Peacock, giám đốc điều hành IBM Cloud, cho biết việc triển khai gắn với nhu cầu của doanh nghiệp đối với AI dạng tác nhân (agentic AI), nói rằng IBM và Nvidia đang “cung cấp hạ tầng AI quy mô lớn, tiết kiệm chi phí, đạt chuẩn doanh nghiệp” để giúp Together AI tiến nhanh hơn.
Dion Harris, giám đốc cấp cao phụ trách hạ tầng HPC và AI tại Nvidia, mô tả các “nhà máy AI” như một loại hạ tầng đang trở nên cơ bản như điện hoặc viễn thông.
IBM cho biết hai công ty cũng đã hợp tác với nhau trong phân tích dữ liệu gốc GPU (GPU-native) bên cạnh việc trích xuất dữ liệu phi cấu trúc. Các công ty cũng tập trung vào mảng tư vấn và định vị cụm Together AI như một phần quan trọng trong nỗ lực lớn hơn nhằm bán năng lực AI cho cả các doanh nghiệp lớn lẫn các startup.
Những bộ óc crypto thông minh nhất của chúng tôi đã đọc bản tin của bạn. Tham gia cùng họ nhé?