Hugging Face ha cambiado las solicitudes de modelos de lenguaje de su propio enrutamiento a OpenRouter: selecciona proveedores según los precios, la velocidad y la fiabilidad en tiempo real; si falla, cambia de ruta dentro de la misma llamada, sin necesidad de modificar el código existente.
El punto de acceso al modelo no ha cambiado; por defecto, la capa de enrutamiento se encarga de la adquisición de capacidad de cómputo. A cambio, los modelos de lenguaje ya no admiten claves propias de proveedores. Si la tasa real de errores y la latencia no se mantienen por debajo de las del enrutamiento anterior, esta capa de middleware no sirve de nada.
El punto de acceso al modelo no ha cambiado; por defecto, la capa de enrutamiento se encarga de la adquisición de capacidad de cómputo. A cambio, los modelos de lenguaje ya no admiten claves propias de proveedores. Si la tasa real de errores y la latencia no se mantienen por debajo de las del enrutamiento anterior, esta capa de middleware no sirve de nada.
