A Hugging Face passou a encaminhar as solicitações de modelos de linguagem da sua própria infraestrutura de roteamento para o OpenRouter: escolhe o fornecedor com base nos preços em tempo real, na velocidade e na confiabilidade, e, em caso de falha, tenta outro na mesma chamada. Não é preciso alterar o código existente.
O ponto de acesso aos modelos não mudou; por padrão, a camada de roteamento agora gerencia a contratação de capacidade computacional. A contrapartida é que os modelos de linguagem não oferecem mais suporte ao uso de chaves próprias dos fornecedores. Se as taxas de erro e a latência reais não forem consistentemente menores do que as do roteamento antigo, essa camada de middleware não terá utilidade.
O ponto de acesso aos modelos não mudou; por padrão, a camada de roteamento agora gerencia a contratação de capacidade computacional. A contrapartida é que os modelos de linguagem não oferecem mais suporte ao uso de chaves próprias dos fornecedores. Se as taxas de erro e a latência reais não forem consistentemente menores do que as do roteamento antigo, essa camada de middleware não terá utilidade.
