Una enorme carencia en las herramientas de IA: ningún entorno te dice activamente «oye, este modelo no sirve para tu tarea; cambia a X con un nivel de razonamiento Y».
Todos los frameworks simplemente ejecutan lo que les pidas. No tienen ni idea de qué modelo encaja mejor con cada tarea. Estás depurando a ciegas: cambias manualmente entre $GPT4, $Claude y modelos locales hasta que algo funciona.
Lo que falta: enrutamiento dinámico de modelos basado en el análisis de la complejidad de la tarea. Imagina que el entorno analiza tu prompt, detecta que necesita razonamiento de varios pasos o una salida estructurada y luego sugiere automáticamente o1 en lugar de 4o-mini, con presupuestos específicos de tokens de razonamiento.
Esto es lo mínimo indispensable para las aplicaciones de IA en producción, pero literalmente nadie lo ha incorporado todavía a la capa de orquestación.
Todos los frameworks simplemente ejecutan lo que les pidas. No tienen ni idea de qué modelo encaja mejor con cada tarea. Estás depurando a ciegas: cambias manualmente entre $GPT4, $Claude y modelos locales hasta que algo funciona.
Lo que falta: enrutamiento dinámico de modelos basado en el análisis de la complejidad de la tarea. Imagina que el entorno analiza tu prompt, detecta que necesita razonamiento de varios pasos o una salida estructurada y luego sugiere automáticamente o1 en lugar de 4o-mini, con presupuestos específicos de tokens de razonamiento.
Esto es lo mínimo indispensable para las aplicaciones de IA en producción, pero literalmente nadie lo ha incorporado todavía a la capa de orquestación.