聊天的真正成本：爲什麼 ChatGPT 是一個價值 2.5 億美元的對話
讓我們談談數字——大數字。多大？嘗試每天 70 萬美元。這就是維持 ChatGPT 正常運行所需的成本。 🤑
根據 SemiAnalysis 的報告，OpenAI 每天在這個聊天機器人上的花費約爲 694,444 美元。
如果您不喜歡數學，讓我爲您詳細分析一下：每年的收入高達 2.5 億美元。罪魁禍首？耗電芯片。
從技術角度來看，ChatGPT 在大約 3,617 臺 HGX A100 服務器上運行，總共多達 28,936 個 GPU。這些不是您日常使用的遊戲 GPU；它們是您日常使用的 GPU。這些都是精力充沛、以性能爲中心的野獸。
您在 ChatGPT 上發出的每個查詢的費用約爲 0.36 美分。聽起來可能不多，但乘以數百萬用戶，它就開始有意義了。或者幾美分，如果你願意的話。
現在，該數據是 GPT-4 之前的數據。因此，到目前爲止，運營成本可能已經飆升得更高。這裏有一個想法：如果 GPU 這麼貴，未來的策略是什麼？
微軟登場——OpenAI 最大的投資者。他們正在開發自己的芯片，以減少對 Nvidia 昂貴的 GPU 的依賴。
但不要失去所有希望。投資公司 ARK 爲我們帶來了一線希望。根據賴特成本下降定律，隨着技術進步，運行像 ChatGPT 這樣的人工智能模型的成本將會大幅下降。
希望這個預測成立，因爲按照這個速度，我們需要爲 ChatGPT 披上一件金融超級英雄斗篷。 🦸♂️
因此，下次當你要求 ChatGPT 寫十四行詩或解方程時，請記住：某個地方的某個人正在爲計算詩歌付出相當大的代價。 🤔
讓我們談談數字——大數字。多大？嘗試每天 70 萬美元。這就是維持 ChatGPT 正常運行所需的成本。 🤑
根據 SemiAnalysis 的報告，OpenAI 每天在這個聊天機器人上的花費約爲 694,444 美元。
如果您不喜歡數學，讓我爲您詳細分析一下：每年的收入高達 2.5 億美元。罪魁禍首？耗電芯片。
從技術角度來看，ChatGPT 在大約 3,617 臺 HGX A100 服務器上運行，總共多達 28,936 個 GPU。這些不是您日常使用的遊戲 GPU；它們是您日常使用的 GPU。這些都是精力充沛、以性能爲中心的野獸。
您在 ChatGPT 上發出的每個查詢的費用約爲 0.36 美分。聽起來可能不多，但乘以數百萬用戶，它就開始有意義了。或者幾美分，如果你願意的話。
現在，該數據是 GPT-4 之前的數據。因此，到目前爲止，運營成本可能已經飆升得更高。這裏有一個想法：如果 GPU 這麼貴，未來的策略是什麼？
微軟登場——OpenAI 最大的投資者。他們正在開發自己的芯片，以減少對 Nvidia 昂貴的 GPU 的依賴。
但不要失去所有希望。投資公司 ARK 爲我們帶來了一線希望。根據賴特成本下降定律，隨着技術進步，運行像 ChatGPT 這樣的人工智能模型的成本將會大幅下降。
希望這個預測成立，因爲按照這個速度，我們需要爲 ChatGPT 披上一件金融超級英雄斗篷。 🦸♂️
因此，下次當你要求 ChatGPT 寫十四行詩或解方程時，請記住：某個地方的某個人正在爲計算詩歌付出相當大的代價。 🤔
