Die wahren Kosten des Chattens: Warum ChatGPT ein Gespräch im Wert von 250 Millionen US-Dollar ist
Reden wir über Zahlen – große. Wie groß? Versuchen Sie es mit 700.000 US-Dollar pro Tag. Das ist es, was es kostet, ChatGPT am Laufen zu halten. 🤑
Laut einem Bericht von SemiAnalysis gibt OpenAI täglich etwa 694.444 US-Dollar für diesen Chatbot aus.
Und wenn Sie kein Fan von Mathematik sind, lassen Sie es mich für Sie aufschlüsseln: Das sind satte 250 Millionen Dollar pro Jahr. Der Schuldige? Stromhungrige Chips.
Um es technisch zu sagen: ChatGPT läuft auf etwa 3.617 HGX A100-Servern, die insgesamt bis zu 28.936 GPUs umfassen. Dies sind keine alltäglichen Gaming-GPUs; Dies sind hochdynamische, leistungsorientierte Biester.
Jede Anfrage, die Sie bei ChatGPT stellen, kostet etwa 0,36 Cent. Das hört sich vielleicht nicht nach viel an, aber wenn man es mit Millionen von Benutzern multipliziert, ergibt es einen Sinn. Oder Cent, wenn Sie so wollen.
Diese Daten stammen aus der Zeit vor GPT-4. Mittlerweile sind die Betriebskosten also wahrscheinlich noch weiter gestiegen. Und hier ein Gedanke: Wenn GPUs so teuer sind, was ist dann die Strategie für die Zukunft?
Betreten Sie Microsoft – den größten Investor von OpenAI. Sie entwickeln ihre eigenen Chips, um die Abhängigkeit von den teuren GPUs von Nvidia zu verringern.
Aber verliere nicht alle Hoffnung. Die Investmentfirma ARK hat einen Lichtblick für uns. Gemäß Wrights Gesetz des Kostenrückgangs wird der Preis für den Betrieb von KI-Modellen wie ChatGPT mit fortschreitender Technologie sinken.
Hoffen wir, dass die Vorhersage zutrifft, denn bei diesem Tempo brauchen wir einen Finanz-Superhelden-Umhang für ChatGPT. 🦸♂️
Wenn Sie also ChatGPT das nächste Mal bitten, ein Sonett zu schreiben oder eine Gleichung zu lösen, denken Sie daran: Jemand zahlt irgendwo einen hübschen Cent für diese Computerpoesie. 🤔
Reden wir über Zahlen – große. Wie groß? Versuchen Sie es mit 700.000 US-Dollar pro Tag. Das ist es, was es kostet, ChatGPT am Laufen zu halten. 🤑
Laut einem Bericht von SemiAnalysis gibt OpenAI täglich etwa 694.444 US-Dollar für diesen Chatbot aus.
Und wenn Sie kein Fan von Mathematik sind, lassen Sie es mich für Sie aufschlüsseln: Das sind satte 250 Millionen Dollar pro Jahr. Der Schuldige? Stromhungrige Chips.
Um es technisch zu sagen: ChatGPT läuft auf etwa 3.617 HGX A100-Servern, die insgesamt bis zu 28.936 GPUs umfassen. Dies sind keine alltäglichen Gaming-GPUs; Dies sind hochdynamische, leistungsorientierte Biester.
Jede Anfrage, die Sie bei ChatGPT stellen, kostet etwa 0,36 Cent. Das hört sich vielleicht nicht nach viel an, aber wenn man es mit Millionen von Benutzern multipliziert, ergibt es einen Sinn. Oder Cent, wenn Sie so wollen.
Diese Daten stammen aus der Zeit vor GPT-4. Mittlerweile sind die Betriebskosten also wahrscheinlich noch weiter gestiegen. Und hier ein Gedanke: Wenn GPUs so teuer sind, was ist dann die Strategie für die Zukunft?
Betreten Sie Microsoft – den größten Investor von OpenAI. Sie entwickeln ihre eigenen Chips, um die Abhängigkeit von den teuren GPUs von Nvidia zu verringern.
Aber verliere nicht alle Hoffnung. Die Investmentfirma ARK hat einen Lichtblick für uns. Gemäß Wrights Gesetz des Kostenrückgangs wird der Preis für den Betrieb von KI-Modellen wie ChatGPT mit fortschreitender Technologie sinken.
Hoffen wir, dass die Vorhersage zutrifft, denn bei diesem Tempo brauchen wir einen Finanz-Superhelden-Umhang für ChatGPT. 🦸♂️
Wenn Sie also ChatGPT das nächste Mal bitten, ein Sonett zu schreiben oder eine Gleichung zu lösen, denken Sie daran: Jemand zahlt irgendwo einen hübschen Cent für diese Computerpoesie. 🤔