Hugging Face telah mengalihkan permintaan model bahasa dari perutean yang di-host sendiri ke OpenRouter: penyedia dipilih berdasarkan harga, kecepatan, dan keandalan secara real-time. Jika gagal, rute akan dialihkan dalam panggilan yang sama tanpa perlu mengubah kode yang ada.
Titik masuk model tidak berubah, tetapi pembelian komputasi kini secara default ditangani oleh lapisan perutean. Konsekuensinya, model bahasa tidak lagi mendukung penggunaan kunci penyedia sendiri. Jika tingkat kesalahan dan latensi aktual tidak secara konsisten lebih rendah daripada perutean lama, lapisan middleware ini tidak ada gunanya.
Titik masuk model tidak berubah, tetapi pembelian komputasi kini secara default ditangani oleh lapisan perutean. Konsekuensinya, model bahasa tidak lagi mendukung penggunaan kunci penyedia sendiri. Jika tingkat kesalahan dan latensi aktual tidak secara konsisten lebih rendah daripada perutean lama, lapisan middleware ini tidak ada gunanya.
