Это сообщение об ИИ от ME: разбираем новости о Beating AI. Бывший руководитель подразделения Huawei PanGu по большой модели Ван Юньхэ основал открытый проект JiYuan Ludong — NeoHorse-Jev-4B. Он превратил свою собственную модель NeoHorse-1-4B в модель принятия решений того же класса, что и Jev. Ей не нужно посимвольно генерировать ответы: она просто выбирает из нескольких вариантов, определяет истинность/ложность или выставляет оценки. В первую очередь модель используется для выбора инструментов для Agent, роутинга и определения следующего шага. Официальная сводка включает 6 наборов текстовых оценок: JevBench, Kev, OpenJev и др. Равновзвешенный средний балл NeoHorse-Jev-4B — 77.70, что выше, чем у 9B Open-Jev (75.67), а также выше, чем у Kev-4B (74.25). При этом этот общий рейтинг собран JiYuan Ludong; на данный момент только 4 открытые модели имеют полностью заполненные результаты во всех шести дисциплинах, а NeoHorse-Jev лидирует лишь в двух из них. Модель основана на NeoHorse-1-4B и выполняет вывод через prefill-only, напрямую вычисляя вероятности кандидатов-ответов, минуя стандартный процесс посимвольной генерации текста обычными LLM. В тесте на 1158 текстовых запросах среднее время одного решения на сервере при 32 конкурентных запросах составляет 74.3 мс; при 256 конкурентных запросах пропускная способность достигает 347.05 запросов в секунду. Модель поддерживает ввод текста и одну картинку. Веса, код вывода и примеры деплоя уже открыты. Запуск возможен через vLLM, SGLang или локальный Runtime, лицензия — Apache 2.0. (Источник: ME)