Открытые AI-модели с открытым исходным кодом — не те «сберегатели затрат», за которые их часто принимают. И если вы управляете затратами на вычислительную инфраструктуру, это важно.
Рынок снова и снова впадает в панику: мол, более дешёвые токены для AI-инфраструктуры — значит, всё плохо. Неверная рамка. Цена токена не имеет значения. Важна стоимость за завершённую задачу.
Представьте это как найм: 3 человека по $20k каждый против 1 человека за $60k. Общая стоимость та же. Дешёвый труд, которому нужно в 3 раза больше сотрудников, на самом деле не становится дешевле.
Та же логика применима к AI. Модель с почти «копеечными» токенами, которая сжигает в 3 раза больше токенов, чтобы выполнить работу? Это не дёшево. Важна единственная цифра: стоимость за задачу.
Реальный тест от 3F Research на задачах для исследователей-ассистентов: Kimi K3 — открытая модель с самыми дешёвыми токенами — на 29% ДОРОЖЕ за задачу, чем Opus 5, и на 19% дороже, чем GPT-5.6. Она токен-неэффективна, «болтает» и выдаёт ответ растянуто, а вы платите за каждый шаг.
Главное: open-source-модели не уменьшают спрос на инфраструктуру — они его расширяют. Особенно память. Каждая инстанция K3 требует примерно 1,4 терабайта HBM для работы. «Дешевая» модель — одна из самых прожорливых по памяти развертываний.
В следующий раз, когда рынок будет паниковать из‑за очередной китайской open-source-модели, покупайте просадку. Это история расширения по памяти и вычислениям, а не история уничтожения спроса.
Рынок снова и снова впадает в панику: мол, более дешёвые токены для AI-инфраструктуры — значит, всё плохо. Неверная рамка. Цена токена не имеет значения. Важна стоимость за завершённую задачу.
Представьте это как найм: 3 человека по $20k каждый против 1 человека за $60k. Общая стоимость та же. Дешёвый труд, которому нужно в 3 раза больше сотрудников, на самом деле не становится дешевле.
Та же логика применима к AI. Модель с почти «копеечными» токенами, которая сжигает в 3 раза больше токенов, чтобы выполнить работу? Это не дёшево. Важна единственная цифра: стоимость за задачу.
Реальный тест от 3F Research на задачах для исследователей-ассистентов: Kimi K3 — открытая модель с самыми дешёвыми токенами — на 29% ДОРОЖЕ за задачу, чем Opus 5, и на 19% дороже, чем GPT-5.6. Она токен-неэффективна, «болтает» и выдаёт ответ растянуто, а вы платите за каждый шаг.
Главное: open-source-модели не уменьшают спрос на инфраструктуру — они его расширяют. Особенно память. Каждая инстанция K3 требует примерно 1,4 терабайта HBM для работы. «Дешевая» модель — одна из самых прожорливых по памяти развертываний.
В следующий раз, когда рынок будет паниковать из‑за очередной китайской open-source-модели, покупайте просадку. Это история расширения по памяти и вычислениям, а не история уничтожения спроса.