AI 公司租用自己的利潤空間 🧾
$ICP 和 $FET 都在爲這樣一個世界構建基礎設施:AI 工作負載會變得更加持久。
我認爲容易被忽略的是,這一切真正實現後,賬單會變成什麼樣。
每增加一位用戶,就會帶來更多推理任務。
如果每個請求都通過租用的 API 或雲 GPU 運行,那麼成功本身就會不斷推高算力賬單。
當需求不確定或呈突發性增長時,雲計算完全說得通。
但每天都要處理請求的模型,是另一個問題。
這正是 B3IQ 要解決的缺口。
企業購買 NVIDIA 實體機器,而 B3 負責採購、搭建、託管和運維。
機器所有者擁有 root 權限和兼容 OpenAI 的網關,其 API 密鑰會將請求路由回屬於該賬戶的硬件。
而在自有的 B3IQ 機器上運行推理,不按 token 計費。
因此,一旦工作負載變得可預測,算力成本就不再像一筆沒有上限的按量付費賬單,而更像是企業自有的基礎設施。
機器在內部不需要時,也可以投入使用,而不是閒置在那裏。
我不認爲這會取代雲計算。
更有意思的方案是:擁有你確定會用到的基礎算力,並租用應對不可預測的峯值需求。
AI 公司多年來一直在優化每個 token 的成本。
B3IQ 提出的問題是:它們是否應該從一開始就擁有生成這些 token 的機器?
這是一個規模大得多的基礎設施問題。
#AI #DePIN
$ICP 和 $FET 都在爲這樣一個世界構建基礎設施:AI 工作負載會變得更加持久。
我認爲容易被忽略的是,這一切真正實現後,賬單會變成什麼樣。
每增加一位用戶,就會帶來更多推理任務。
如果每個請求都通過租用的 API 或雲 GPU 運行,那麼成功本身就會不斷推高算力賬單。
當需求不確定或呈突發性增長時,雲計算完全說得通。
但每天都要處理請求的模型,是另一個問題。
這正是 B3IQ 要解決的缺口。
企業購買 NVIDIA 實體機器,而 B3 負責採購、搭建、託管和運維。
機器所有者擁有 root 權限和兼容 OpenAI 的網關,其 API 密鑰會將請求路由回屬於該賬戶的硬件。
而在自有的 B3IQ 機器上運行推理,不按 token 計費。
因此,一旦工作負載變得可預測,算力成本就不再像一筆沒有上限的按量付費賬單,而更像是企業自有的基礎設施。
機器在內部不需要時,也可以投入使用,而不是閒置在那裏。
我不認爲這會取代雲計算。
更有意思的方案是:擁有你確定會用到的基礎算力,並租用應對不可預測的峯值需求。
AI 公司多年來一直在優化每個 token 的成本。
B3IQ 提出的問題是:它們是否應該從一開始就擁有生成這些 token 的機器?
這是一個規模大得多的基礎設施問題。
#AI #DePIN
