Сообщение от ME: аналитика Beating AI. OpenRouter запустил Jev Router, подключив Jev компании TypeSafe к маршрутизации моделей. Перед тем как отправлять каждый запрос, Jev оценит сложность задачи, требования к точности и достаточно ли текущей модели и режима вывода ресурсов, чтобы решить задачу; после чего решит, продолжать ли использовать прежний уровень рассуждений, повысить ли его или же переключиться на другую модель. В прежнем Auto Router от OpenRouter выбор модели больше ориентирован на тип задачи: он сначала определяет, что это за задача, а затем опирается на то, как использовались разные модели в последних 7 днях для запросов аналогичного типа. Jev Router продолжает учитывать, насколько сложной является именно эта итерация. Для простых задач он может понизить уровень; для сложных — увеличить reasoning effort. Если та же модель всё ещё способна справиться, то спешить с переключением не будет. Ещё один очень практичный момент — кэш контекста. В длинных диалогах, если модель меняется, уже закэшированный контекст обычно нельзя напрямую переиспользовать: новой модели, возможно, придётся заново обрабатывать всю переписку. Jev Router учитывает и этот потенциальный ущерб тоже. OpenRouter утверждает, что реальное переключение происходит лишь тогда, когда ожидаемая выгода от смены модели выше, чем издержки на переключение; при этом одну и ту же модель стараются по возможности продолжать использовать. В ходе самотестирования OpenRouter сообщает: в 4 агентных бенчмарках, где было 423 задачи, Jev Router справился с 237, а Auto Router — с 130; это означает, что задач решено примерно на 82% больше. В дополнительных 5 агентных бенчмарках его медианная задержка первого токена также ниже, чем у остальных роутеров, участвовавших в тестировании. Похожий подход ранее уже появлялся в сообществе Jev. Например, `gholtzap/jev-codex-model-and-effort-router` сначала просит Jev, чтобы Codex выбрал модель и уровень рассуждений, а затем фиксирует весь поток и переиспользует кеш; `Jev-Auto-Router` же пытается выбирать модель заново при каждом вызове. В этот раз OpenRouter фактически встроил такие практики прямо в официальный сервис роутинга. (Источник: ME)