Các công ty AI thuê chính biên lợi nhuận của mình 🧾
$ICP và $FET đều đang xây dựng cho một thế giới nơi các khối lượng công việc AI hoạt động liên tục hơn nhiều.
Điều tôi nghĩ mọi người thường bỏ qua là hóa đơn sẽ ra sao khi điều đó thực sự thành công.
Mỗi người dùng mới tạo ra thêm nhiều lượt suy luận.
Nếu mọi yêu cầu đều chạy qua API thuê ngoài hoặc GPU đám mây, thì chính sự thành công lại khiến hóa đơn điện toán ngày càng tăng.
Điện toán đám mây rất hợp lý khi nhu cầu chưa chắc chắn hoặc phát sinh theo từng đợt.
Một mô hình phục vụ yêu cầu mỗi ngày lại là một bài toán khác.
Đó là khoảng trống mà B3IQ đang hướng đến.
Các công ty mua máy NVIDIA vật lý, còn B3 lo việc tìm nguồn cung, lắp đặt, lưu trữ và vận hành.
Chủ sở hữu có quyền truy cập root và một cổng tương thích với OpenAI, với các khóa API định tuyến trở lại phần cứng thuộc tài khoản đó.
Và hoạt động suy luận trên máy B3IQ thuộc sở hữu của công ty không bị tính phí theo token.
Vì vậy, khi khối lượng công việc trở nên dễ dự đoán, chi phí điện toán không còn giống một hóa đơn sử dụng không giới hạn mà bắt đầu giống hạ tầng do công ty sở hữu.
Máy cũng có thể được đưa vào sử dụng khi công ty không cần dùng nội bộ, thay vì để không.
Tôi không nghĩ điều này sẽ thay thế điện toán đám mây.
Phương án thú vị hơn là sở hữu phần năng lực cơ bản mà bạn biết mình sẽ dùng, rồi thuê thêm để đáp ứng những đợt tăng nhu cầu khó lường.
Các công ty AI đã dành nhiều năm tối ưu hóa chi phí trên mỗi token.
B3IQ đặt câu hỏi liệu ngay từ đầu họ có nên sở hữu cỗ máy tạo ra những token đó hay không.
Đó là một câu hỏi lớn hơn nhiều về hạ tầng.
#AI #DePIN
$ICP và $FET đều đang xây dựng cho một thế giới nơi các khối lượng công việc AI hoạt động liên tục hơn nhiều.
Điều tôi nghĩ mọi người thường bỏ qua là hóa đơn sẽ ra sao khi điều đó thực sự thành công.
Mỗi người dùng mới tạo ra thêm nhiều lượt suy luận.
Nếu mọi yêu cầu đều chạy qua API thuê ngoài hoặc GPU đám mây, thì chính sự thành công lại khiến hóa đơn điện toán ngày càng tăng.
Điện toán đám mây rất hợp lý khi nhu cầu chưa chắc chắn hoặc phát sinh theo từng đợt.
Một mô hình phục vụ yêu cầu mỗi ngày lại là một bài toán khác.
Đó là khoảng trống mà B3IQ đang hướng đến.
Các công ty mua máy NVIDIA vật lý, còn B3 lo việc tìm nguồn cung, lắp đặt, lưu trữ và vận hành.
Chủ sở hữu có quyền truy cập root và một cổng tương thích với OpenAI, với các khóa API định tuyến trở lại phần cứng thuộc tài khoản đó.
Và hoạt động suy luận trên máy B3IQ thuộc sở hữu của công ty không bị tính phí theo token.
Vì vậy, khi khối lượng công việc trở nên dễ dự đoán, chi phí điện toán không còn giống một hóa đơn sử dụng không giới hạn mà bắt đầu giống hạ tầng do công ty sở hữu.
Máy cũng có thể được đưa vào sử dụng khi công ty không cần dùng nội bộ, thay vì để không.
Tôi không nghĩ điều này sẽ thay thế điện toán đám mây.
Phương án thú vị hơn là sở hữu phần năng lực cơ bản mà bạn biết mình sẽ dùng, rồi thuê thêm để đáp ứng những đợt tăng nhu cầu khó lường.
Các công ty AI đã dành nhiều năm tối ưu hóa chi phí trên mỗi token.
B3IQ đặt câu hỏi liệu ngay từ đầu họ có nên sở hữu cỗ máy tạo ra những token đó hay không.
Đó là một câu hỏi lớn hơn nhiều về hạ tầng.
#AI #DePIN
