Precisamente por eso sigo siendo optimista respecto a la infraestructura de IA.
Fíjate en los precios del alquiler de GPU frente a los tokens de IA desde julio. El costo de los tokens se desplomó. ¿El alquiler de H100? Sigue elevado, alrededor de 2,70 dólares por hora.
La clásica paradoja de Jevons. Cuando algo se abarata, la gente lo usa mucho más. Las tareas de IA que resultaban demasiado caras a gran escala de repente se vuelven viables. Si ejecutar un agente de IA cuesta menos, las empresas implementan miles en vez de cientos. Asistentes de programación, búsqueda, atención al cliente: todos los casos de uso que requieren muchas inferencias se expanden.
Más uso = más demanda de GPU, memoria, redes, centros de datos y energía.
Aunque los precios de los tokens se desplomaron, los precios del alquiler de H100 se mantuvieron firmes. Eso te dice que la demanda de capacidad de cómputo sigue siendo fuerte, pese a las mejoras de eficiencia. Sí, la dinámica de la oferta y las nuevas generaciones de GPU importan. Pero ¿que los precios de la capacidad de cómputo se mantengan mientras los de los tokens caen? Eso es una señal.
Creo que el mercado subestima cuánto uso adicional de la IA permitirán los precios más bajos en los próximos años. Estamos empezando. La mayoría de las empresas apenas ha comenzado a integrar la IA en sus operaciones diarias.
Por eso prefiero a los proveedores de infraestructura antes que intentar adivinar qué proveedor de modelos ganará. Ya sea OpenAI, Anthropic, Google o el código abierto, alguien tiene que proporcionar la capacidad de cómputo. Mientras el uso de la IA crezca más rápido de lo que la eficiencia reduce las necesidades de cómputo, la expansión continuará.
Optimista respecto a la capacidad de cómputo, la memoria, las redes y la energía.
Fíjate en los precios del alquiler de GPU frente a los tokens de IA desde julio. El costo de los tokens se desplomó. ¿El alquiler de H100? Sigue elevado, alrededor de 2,70 dólares por hora.
La clásica paradoja de Jevons. Cuando algo se abarata, la gente lo usa mucho más. Las tareas de IA que resultaban demasiado caras a gran escala de repente se vuelven viables. Si ejecutar un agente de IA cuesta menos, las empresas implementan miles en vez de cientos. Asistentes de programación, búsqueda, atención al cliente: todos los casos de uso que requieren muchas inferencias se expanden.
Más uso = más demanda de GPU, memoria, redes, centros de datos y energía.
Aunque los precios de los tokens se desplomaron, los precios del alquiler de H100 se mantuvieron firmes. Eso te dice que la demanda de capacidad de cómputo sigue siendo fuerte, pese a las mejoras de eficiencia. Sí, la dinámica de la oferta y las nuevas generaciones de GPU importan. Pero ¿que los precios de la capacidad de cómputo se mantengan mientras los de los tokens caen? Eso es una señal.
Creo que el mercado subestima cuánto uso adicional de la IA permitirán los precios más bajos en los próximos años. Estamos empezando. La mayoría de las empresas apenas ha comenzado a integrar la IA en sus operaciones diarias.
Por eso prefiero a los proveedores de infraestructura antes que intentar adivinar qué proveedor de modelos ganará. Ya sea OpenAI, Anthropic, Google o el código abierto, alguien tiene que proporcionar la capacidad de cómputo. Mientras el uso de la IA crezca más rápido de lo que la eficiencia reduce las necesidades de cómputo, la expansión continuará.
Optimista respecto a la capacidad de cómputo, la memoria, las redes y la energía.