Meta стремится снизить затраты на работу ИИ-агентов. 9 ноября компания представила Muse Ember — облегчённую модель, которая будет выполнять повторяющиеся задачи, занимающие ИИ-агентов. В отличие от других моделей, Ember не предназначена для решения сложных задач, а сосредоточена на выполнении повседневной работы с минимально возможными затратами.
Создана для обработки больших объёмов работы, пока Muse Wonder занимается планированием
Meta создала Ember для выполнения рутинной работы, необходимой для работы ИИ-агентов. Модель может вызывать другие программные инструменты, направлять запросы в нужную систему, извлекать информацию из документов и обрабатывать объёмные файлы. Ember также справляется с небольшими задачами по программированию, например запускает тесты и вносит точечные исправления.
Чтобы принимать более сложные решения, Meta использует сочетание Muse Wonder — продвинутой модели рассуждения — и Ember. Wonder решает, как подойти к задаче, а Ember выполняет небольшие действия, необходимые для её завершения. По словам Meta:
«Muse Wonder планирует, Muse Ember справляется с объёмом работы».
Ember — четвёртая версия в линейке Muse после Muse Spark, Muse Glimmer и Muse Wonder. Разработчики могут получить к ней доступ через Meta Model API и Muse Code. Согласно тарифному плану Meta, стоимость составляет $0.1 за миллион входных токенов, $0.004 за миллион кэшированных входных токенов и $0.5 за миллион выходных токенов.
Контекстное окно Ember объёмом в один миллион токенов позволяет обрабатывать более крупные документы и кодовые базы. Модель также умеет работать с изображениями, аудио и видео.
Что выяснила Artificial Analysis, проверив эти заявления
Независимые тесты наглядно показывают, насколько Ember выигрывает в стоимости. Согласно данным Artificial Analysis, показатель Ember в индексе Intelligence Index составляет 36 — столько же, сколько у Claude Haiku 5.5. Однако одно задание в бенчмарке обходится с Ember всего в $0.14, а с Claude Haiku — в $0.41. Приведённые цифры — это оценочная стоимость тестов, а не фиксированные суммы, которые платят клиенты. Кроме того, Ember набрала 68.1% в AutomationBench-AA, сравнявшись с более мощной моделью Meta — Muse Wonder.
Однако результаты тестов на программирование оказались неоднозначными. В Terminal-Bench 4.0 Ember показала результат лучше, чем Haiku: 40.9% против 32.8%. Но в FrontierCode 2.0 Haiku справилась лучше Ember: 34.9% против 27.2%.
Ещё одна слабая сторона Ember — общие знания. Точность модели в AA-Omniscience составила всего 21.1%, а от ответа на 64% запросов она воздержалась. Благодаря осторожному подходу Ember удалось удержать показатель галлюцинаций на уровне 17.4%.
Агентское задание Meta Muse Ember за $0.14: стоимость и производительность в сравнении с Claude Haiku 5.5
Почему именно стоимость одного задания сейчас имеет решающее значение
Снижение цен на Ember происходит в момент, когда компании пересматривают расходы на технологии ИИ. Gartner прогнозирует, что спрос на ИИ-агентов и ассистентов приведёт к росту расходов до $29.2 млрд в 2026 году и станет частью прогнозируемого рынка ИИ объёмом $2.7 трлн. По мере распространения ИИ-технологий BCG призывает компании-разработчики ПО рассмотреть оплату за выполненные задания или полученные результаты вместо оплаты за каждого пользователя с лицензией. Однако компания предостерегает от слишком быстрого отказа от традиционной модели подписки.
Главный вопрос — принесёт ли более дешёвый ИИ большую отдачу. McKinsey утверждает, что стоимость токенов сама по себе не позволяет оценить ценность для бизнеса. Более низкие цены также могут побудить компании активнее использовать ИИ. По данным IDC, 67% предприятий превысили бюджеты на агентов. Исследовательская компания ожидает, что к 2030 году стоимость одного действия агента снизится на 95%, хотя совокупные расходы на передачу токенов вырастут в 487 раз.
Вопросы окупаемости, надёжности и контроля
Первые партнёры Meta отметили высокую скорость Ember. Технический директор Cloudflare Дейн Кнехт сообщил, что модель работала:
«до 30% быстрее»
Руководитель направления инференса в You.com Чак Потина сообщил:
«p95 составил 2.2 секунды»
Руководитель Box Яшодха Бхавнани отметила, что Ember может проверять контракты:
«по пунктам, сверяя их с правилами ведения переговоров компании»
Эти результаты обнадёживают, но получены в ходе тестирования партнёрами. Компаниям всё ещё необходимо оценить производительность Ember в собственных рабочих процессах.
Надёжность — это не только скорость. Институт FII приводит результаты опроса, согласно которым 73% респондентов обеспокоены конфиденциальностью и безопасностью данных в ИИ. Между тем опрос McKinsey показал, что лишь около 30% организаций достигли более высокого уровня зрелости в управлении агентным ИИ.
Расходы связаны не только с самими моделями. Недавняя продажа облигаций Meta на $15 млрд подчёркивает высокую стоимость создания инфраструктуры ИИ. Издание Cryptopolitan также сообщало о расширении инвестиций Meta в центры обработки данных.
Если вы это читаете, значит, вы уже впереди. Оставайтесь там — подпишитесь на нашу рассылку.