Cuanto más potente es la IA, ¿por qué sus costes merecen una mayor atención?
Antes, al usar IA, a muchos solo les importaba lo inteligente que era el modelo.
Ahora que empieza a aplicarse de verdad, hay que calcular los costes de inferencia, el consumo de tokens, el número de llamadas y la tasa de éxito de las tareas.
Por muy bien que responda un modelo, si completar cada tarea supone un coste demasiado elevado, será difícil crear un negocio sostenible.
En la segunda mitad de la carrera de la IA, no solo cuenta la capacidad, sino también el valor que se genera por unidad de coste.
#AI #大模型 #TokenEconomics #AI基础设施
Antes, al usar IA, a muchos solo les importaba lo inteligente que era el modelo.
Ahora que empieza a aplicarse de verdad, hay que calcular los costes de inferencia, el consumo de tokens, el número de llamadas y la tasa de éxito de las tareas.
Por muy bien que responda un modelo, si completar cada tarea supone un coste demasiado elevado, será difícil crear un negocio sostenible.
En la segunda mitad de la carrera de la IA, no solo cuenta la capacidad, sino también el valor que se genera por unidad de coste.
#AI #大模型 #TokenEconomics #AI基础设施