Американские компании начали более внимательно рассматривать открытые модели OpenAI. В интервью главный директор по данным и ИИ AT&T заявил, что доля использования открытых моделей выросла с 20% в мае этого года до 40%, а затраты на ИИ по сравнению с началом года удалось сократить на 80% максимум. Это формулировка самих опрошенных компаний: не все компании после миграции могут получить такие скидки.
Это затрагивает не только небольшое число инженеров. Командам поддержки клиентов, юридическим подразделениям, маркетинговым командам, подразделениям по данным, а также руководителям, которым нужно встроить ИИ в повседневные процессы, необходимо заново все пересчитать. Помимо вопроса «какая модель самая умная», следует спрашивать: «за ту же работу сколько стоит, как быстро сделать и кто исправляет ошибки?»
Читателю сейчас важнее всего проверять не то, на каком месте в рейтинге стоит та или иная модель, а четыре вещи: падают ли реально расходы на вызовы или железо; становится ли проще или тяжелее интеграция и эксплуатация; увеличиваются ли переделки и ручные проверки; и если возникнут проблемы с безопасностью или правами — кто за это отвечает и закрывает вопросы “подстраховкой”. Если “дешёвизна” проявляется только тем, что дешевле в первой строке счёта, это не снижение затрат — это просто смена места, куда тратятся деньги.
【Дёшево — конечно, есть соблазн】
Компаниям хочется экономить — в этом не нужно изображать из себя кого-то умного.
Привлекательность открытых моделей довольно прямолинейна: веса можно получить, варианты развертывания гибче, и компания может часть задач размещать в среде, которой она лучше управляет. Для массовых, высокочастотных задач со стабильным форматом стоит проверить, есть ли преимущество по затратам. Например, ежедневно тысячи сводок диалогов в службе поддержки, классификация внутренних документов, извлечение информации в фиксированном формате: пока границы задачи понятны, модели не нужно каждый раз писать впечатляющую статью — ценность в том, что она может стабильно выполнять работу.
Кейс AT&T обсуждают именно потому, что здесь всё сходится. Опрошенные руководители сказали, что в компании используют Gemma и Llama. Эта цифра цепляет, но важнее смотреть не на сам “80%”, а на предпосылки за этим: задача подходит или нет? процесс зрелый или нет? достаточно ли инженерных возможностей, чтобы подключить модель к бизнесу?
Бизнесу нужна постоянная поставка результата: ошибку можно отследить, на пике есть запас по нагрузке, сотрудники справляются, а клиентские проблемы решаются.
【Открыто — не значит “можно как попало”】
Здесь есть слово, которое легче всего перепутать: “открытость”.
Открытые веса — не то же самое, что полностью открытый исходный код. Скачать параметры — ещё не значит, что на столе разложены и обучающие данные, и код, и условия изменений, и границы коммерческого использования. Реально влияющие на решения компании вещи — это не только “можно ли получить”, но и “можно ли законно использовать, стабильно дорабатывать и поддерживать в долгую”.
Компаниям нужно по пунктам проверять лицензию модели, условия использования и дальнейшие планы поддержки. Содержание и права у разных моделей, когда они “открыты”, могут отличаться — нельзя сделать вывод обо всём доступном, опираясь лишь на один ярлык “открыто”.
Главное: не приравнивайте открытые модели напрямую к моделям какой-то одной страны и не думайте о них как о “стороне”. Открытость — это сочетание технического и лицензионного статуса, а не геополитический ярлык. Компания по-настоящему заботится о том, сможет ли модель выполнить мою задачу, можно ли контролировать стоимость и можно ли объяснить риски.
Обычные пользователи могут думать, что всё это далеко от них. На самом деле — не далеко. Вы звоните в колл-центр: точна ли там сводка; вы подаёте документы: система не промахивается ли; вы получаете рекламные тексты — они всё больше похожи на конвейер, и часто это результат выбора модели.
Компания экономит деньги, а пользователи ощущают качество сервиса.
【Те самые реальные затраты прячутся в переделках】
Общую стоимость одной ИИ-задачи можно грубо разделить на четыре части: расходы на вызов или железо, подключение и эксплуатацию, повторные попытки и переделки, а также ручную повторную проверку.
Первая часть самая заметная. В счёте — цифры, на серверах — цены, бухгалтерия сразу это видит.
Вторая часть становится сложнее. Если открытые модели развёртываете у себя, нужно, чтобы кто-то занимался машинами, расширением, версиями, мониторингом. Даже при хостинге открытых моделей это не “в воздухе”: платите и за железо, и за время работы, и за расширение с копиями. Скачивание весов не обнуляет затраты. Развёртывание у себя, аренда выделенных инстансов или вызов через управляемые интерфейсы — структура счёта другая, инженерная поддержка тоже должна быть учтена.
Третья часть самая изматывающая. Представьте набор задач для сводок службы поддержки: у варианта А цена выше, но большая часть сводок проходит приёмку; у варианта B цена ниже, но сотрудникам приходится снова слушать аудиозапись и дописывать ключевые запросы. Это не привязано к какой-то конкретной компании и не предполагает, что открытые или закрытые модели точнее. Оно напоминает: только если фиксировать время на правки, можно понять, не перекрывается ли “низкая цена” затратами на переделки.
Четвёртая часть легче всего недооценивается руководством. Ручная повторная проверка — это не кнопка: она съедает внимание. Один человек следит за ошибками машины — со временем это утомляет, притупляет, и очевидные проблемы могут пройти мимо. ИИ соревнуется не только с серверной гонкой, он ещё и соревнуется с человеческим терпением.
Так что “дёшево” нужно выяснять до конца: дёшево ли за каждый вызов или дёшево ли за каждую успешную сдачу по критериям?
На эти два вопроса ответы могут очень отличаться.
【Безопасность — это не “достаточно просто локально”】
Многие компании говорят: открытые модели более контролируемы, их можно развернуть локально, данные безопаснее.
Направление верное, но нельзя расслабляться.
Безопасность не генерируется автоматически словами “локально”. Была ли сделана нормальная аутентификация доступа? Понятна ли изоляция сети? Как обрабатывать чувствительные данные? Останутся ли логи? Кто может вызывать модель, кто может видеть вывод и кто может экспортировать результат? Пока эти вопросы не закрыты, где бы ни находилась модель — спокойно не будет.
Чем глубже модель входит в бизнес, тем тоньше должны быть права. Нужно по пунктам сверить: передаются ли данные третьим сторонам, как они сохраняются, кто может их удалить — в зависимости от реального сценария развертывания и договорённостей по сервису.
Есть и ещё один жизненный момент: открытые модели более гибкие, а значит сильнее требуют зрелого управления. Сменили версию — изменился вывод, бизнес-соответствующая сторона может не узнать об этом сразу. Изменили промпт — точность “плавает”, команда поддержки сначала получает по голове. Безопасность — это не только защита от внешних; нужно также защищаться от выхода из-под контроля внутренних процессов.
Настояще зрелый подход для компании — это не просто сказать “мы подключим открытые модели”, а относиться к ним как к производственной линии: есть вход, есть контроль качества, есть мониторинг, есть откат.
Откат означает: если новая версия ведёт себя нестабильно, можно вернуться к исходному процессу или перейти на ручную обработку. Это нужно спроектировать заранее, а не искать “на ходу” после того, как бизнес уже остановился.
【Какие задачи подходят для миграции】
Не все задачи стоит переносить на открытые модели.
Низкочастотные задачи не обязательно стоит специально выделять под отдельный сервис: продолжает ли взиматься плата, когда машины простаивают, есть ли у обслуживающего персонала ресурс, и так далее — всё это меняет итоговый результат. Задачи с высокой ответственностью и малым запасом по ошибкам требуют более строгой приёмки и ручной повторной проверки.
Для высокочастотных, стандартизированных и поддающихся верификации задач больше подходит подход “давайте попробуем”. Краткие сводки для службы поддержки, классификация тикетов, извлечение данных по фиксированным полям, вопросы-ответы по внутренней базе знаний — если можно чётко определить критерии “годности”, то достаточно сравнить на небольшом объёме. Берёте одну и ту же партию задач и гоните разные модели, смотрите на процент успешных результатов, время ручных правок, задержки ответа и стабильность на пиках.
Не слушайте истории — смотрите на приёмку.
Хорошее корпоративное решение с ИИ — это не обязательно самая умная модель, а то, которое меньше всего требует ручного переделывания. Оно может отвечать не так красиво, но формат будет стабильным; оно может не выдавать афоризмы, но сможет полностью вытащить номер заказа, причину жалобы и рекомендации по обработке. Для бизнеса этого уже достаточно, чтобы это было по-настоящему ценным.
Техническое сообщество любит обсуждать верхнюю планку, а бизнесу важнее нижняя. Верхняя планка определяет сюрпризы, нижняя — можно ли на этом вообще работать.
【Дальше смотрите вот на эти вещи】
Отталкиваясь от этого кейса, я больше всего переживаю о двух вещах: будет ли стоимость продолжать снижаться, и получает ли компания более подходящие для себя варианты внедрения и возможности для доработок.
Один из вариантов, который стоит проверить: распределять модели по задачам, а не выбирать одну модель сразу для всей компании. Пусть разные кандидатные решения обработают одни и те же образцы, а затем распределите роли, исходя из процента соответствия критериям, стоимости, задержек и нагрузки на поддержку. Даже задачи с похожей сложностью могут дать разные результаты из‑за различий в данных и требованиях приёмки.
Следующее, что действительно стоит смотреть, — это не то, что очередная компания снова объявила “полное принятие OpenAI”. Такие заявления шумные, но недостаточно “жёсткие”. Жёстких метрик четыре.
Во‑первых, снижается ли стоимость корректной сдачи по одной и той же задаче. Во‑вторых, уменьшается ли время ручной повторной проверки, а не перекладывается ли оно на сотрудников первой линии. В‑третьих, стабилен ли ответ под пиковым потоком. В‑четвёртых, проходят ли внутреннюю проверку лицензии, безопасность, права и процессы обработки данных.
Если эти четыре метрики держатся, то открытая модель — это уже не просто способ сэкономить, а часть ИИ-инфраструктуры компании.
Если не держатся, это будет просто другая форма стоимости экспериментов и ошибок.
Самое интересное в технологических изменениях — никогда не то, какие громкие слова вокруг летят, а то, чем они в итоге заканчиваются в очень маленькой повседневности: стало ли меньше формальности у оператора в поддержке, не прибавился ли лишний процент к итоговому счёту, не пришлось ли сотрудникам добавить лишний час смены, не стало ли у пользователей чуть больше доверия.
Конкуренция в ИИ на поверхности — это конкуренция моделей.
Если копнуть глубже, это соревнование в том, кто сможет превратить “умность” в стабильность, “дешевизну” — в пригодность, а “показуху навыков” — в еду, которую вовремя приносят на стол.
Только для исследовательского обучения; не является инвестиционной рекомендацией.