El coste real del chat: por qué ChatGPT cuesta 250 millones de dólares
Hablemos de números, de los grandes. ¿Cuan grande? Pruebe con 700.000 dólares al día. Eso es lo que cuesta mantener ChatGPT en funcionamiento. 🤑
Según un informe de SemiAnalysis, OpenAI gasta alrededor de 694.444 dólares diarios en este chatbot.
Y si no eres un fanático de las matemáticas, déjame desglosarte: eso es la friolera de 250 millones de dólares al año. ¿El culpable? Chips que consumen mucha energía.
Para ser técnico, ChatGPT opera en alrededor de 3617 servidores HGX A100, que suman hasta 28,936 GPU. Estas no son las GPU para juegos habituales; Estas son bestias de alto octanaje centradas en el rendimiento.
Cada consulta que realiza en ChatGPT cuesta alrededor de 0,36 centavos. Puede que no parezca mucho, pero multiplícalo por millones de usuarios y empezará a tener sentido. O centavos, por así decirlo.
Ahora bien, estos datos son anteriores a GPT-4. Entonces, a estas alturas, es probable que los costos operativos se hayan disparado aún más. Y aquí cabe una reflexión: si las GPU son tan caras, ¿cuál es la estrategia para el futuro?
Ingrese Microsoft, el mayor inversor de OpenAI. Están desarrollando sus propios chips para reducir la dependencia de las costosas GPU de Nvidia.
Pero no pierdas toda esperanza. La empresa de inversión ARK tiene un lado positivo para nosotros. Según la Ley de la caída de costos de Wright, el precio de ejecutar modelos de inteligencia artificial como ChatGPT se desplomará a medida que avance la tecnología.
Esperemos que esa predicción se cumpla porque, a este ritmo, necesitaremos una capa de superhéroe financiero para ChatGPT. 🦸♂️
Entonces, la próxima vez que le pidas a ChatGPT que escriba un soneto o resuelva una ecuación, recuerda: alguien, en algún lugar, está pagando un buen centavo por esa poesía computacional. 🤔
Hablemos de números, de los grandes. ¿Cuan grande? Pruebe con 700.000 dólares al día. Eso es lo que cuesta mantener ChatGPT en funcionamiento. 🤑
Según un informe de SemiAnalysis, OpenAI gasta alrededor de 694.444 dólares diarios en este chatbot.
Y si no eres un fanático de las matemáticas, déjame desglosarte: eso es la friolera de 250 millones de dólares al año. ¿El culpable? Chips que consumen mucha energía.
Para ser técnico, ChatGPT opera en alrededor de 3617 servidores HGX A100, que suman hasta 28,936 GPU. Estas no son las GPU para juegos habituales; Estas son bestias de alto octanaje centradas en el rendimiento.
Cada consulta que realiza en ChatGPT cuesta alrededor de 0,36 centavos. Puede que no parezca mucho, pero multiplícalo por millones de usuarios y empezará a tener sentido. O centavos, por así decirlo.
Ahora bien, estos datos son anteriores a GPT-4. Entonces, a estas alturas, es probable que los costos operativos se hayan disparado aún más. Y aquí cabe una reflexión: si las GPU son tan caras, ¿cuál es la estrategia para el futuro?
Ingrese Microsoft, el mayor inversor de OpenAI. Están desarrollando sus propios chips para reducir la dependencia de las costosas GPU de Nvidia.
Pero no pierdas toda esperanza. La empresa de inversión ARK tiene un lado positivo para nosotros. Según la Ley de la caída de costos de Wright, el precio de ejecutar modelos de inteligencia artificial como ChatGPT se desplomará a medida que avance la tecnología.
Esperemos que esa predicción se cumpla porque, a este ritmo, necesitaremos una capa de superhéroe financiero para ChatGPT. 🦸♂️
Entonces, la próxima vez que le pidas a ChatGPT que escriba un soneto o resuelva una ecuación, recuerda: alguien, en algún lugar, está pagando un buen centavo por esa poesía computacional. 🤔