У европейской большой языковой модели с триллионом параметров наконец-то можно скачать веса.
Mistral Large 4, прозванная «Le Chonk», сначала стала доступна в виде предварительной версии API 6 октября, а 29 октября её открытые веса официально выложили на Hugging Face по изменённой лицензии MIT. Масштаб модели: около 1,05 триллиона параметров в общей сложности; архитектура со смесью экспертов, из которых при каждом выводе фактически активируются примерно 49–52 миллиарда. Поддерживаются контекстное окно в миллион токенов, более 160 языков и мультимодальность изначально.
На той же неделе появилось ещё одно, более практичное для разработчиков обновление: 28 октября Mistral открыла публичный предварительный доступ к Responses API, совместимому по формату с API OpenAI. Командам, использующим агентные сценарии, достаточно поменять базовый URL и API-ключ, чтобы перейти на инфраструктуру, размещённую в Европе, — переписывать логику оркестрации не нужно. Стандартная цена Large 4 — 1,36 доллара за миллион входных токенов и 4,18 доллара за миллион выходных; в период предварительного доступа цена входных токенов снижена вдвое.
Моя оценка: открытые веса и совместимый интерфейс — это два удара одной связки. Веса отвечают на вопрос «можно ли запускать модель самостоятельно», а интерфейс — «насколько легко на неё перейти». Думаю, настоящее испытание для Le Chonk начнётся не на неделе релиза, а после публикации весов: сможет ли сообщество показать убедительные результаты реальных тестов? Если нет, триллион параметров останется просто цифрой.
#ПереднийКрайИИ
$BTC
Mistral Large 4, прозванная «Le Chonk», сначала стала доступна в виде предварительной версии API 6 октября, а 29 октября её открытые веса официально выложили на Hugging Face по изменённой лицензии MIT. Масштаб модели: около 1,05 триллиона параметров в общей сложности; архитектура со смесью экспертов, из которых при каждом выводе фактически активируются примерно 49–52 миллиарда. Поддерживаются контекстное окно в миллион токенов, более 160 языков и мультимодальность изначально.
На той же неделе появилось ещё одно, более практичное для разработчиков обновление: 28 октября Mistral открыла публичный предварительный доступ к Responses API, совместимому по формату с API OpenAI. Командам, использующим агентные сценарии, достаточно поменять базовый URL и API-ключ, чтобы перейти на инфраструктуру, размещённую в Европе, — переписывать логику оркестрации не нужно. Стандартная цена Large 4 — 1,36 доллара за миллион входных токенов и 4,18 доллара за миллион выходных; в период предварительного доступа цена входных токенов снижена вдвое.
Моя оценка: открытые веса и совместимый интерфейс — это два удара одной связки. Веса отвечают на вопрос «можно ли запускать модель самостоятельно», а интерфейс — «насколько легко на неё перейти». Думаю, настоящее испытание для Le Chonk начнётся не на неделе релиза, а после публикации весов: сможет ли сообщество показать убедительные результаты реальных тестов? Если нет, триллион параметров останется просто цифрой.
#ПереднийКрайИИ
$BTC