Почему всё больше вызовов ИИ не обязательно направляется к самым дорогим моделям?
9 октября Microsoft представила Decision 1 — инструмент для классификации, маршрутизации и принятия решений в рабочих процессах. Он выбирает результат из заранее заданных вариантов и указывает степень уверенности. Его задача — не генерировать длинные ответы.
Это влияет на то, кому платят за каждый этап задачи.
Например, система поддержки сначала определяет, о чём запрос: о возврате средств, доставке или технической проблеме, — а затем направляет его в соответствующий процесс. Для классификации и анализа сложного договора нужны разные возможности, объём ответа и затраты. Нет смысла по умолчанию использовать одинаково дорогую универсальную модель на каждом этапе.
Я считаю, что при закупке ИИ компании будут всё больше внимания уделять распределению задач. Простые решения можно поручить подходящим специализированным моделям, а сложные вопросы при необходимости передавать на следующий уровень. Сравнивать нужно расходы и цену ошибок во всём процессе, а не только то, насколько дёшево выглядит один вызов модели.
Это также объясняет, почему число вызовов не равно доходу: количество может расти, а состав задач и цена за вызов — меняться. Если ошибки приводят к повторной работе, кажущаяся низкая цена тоже перестаёт быть преимуществом.
Если говорить о связанных с ИИ активах, таких как TAO, FET и RENDER, стоит и дальше выяснять, за что именно пользователи платят в каждом из этих проектов. Выпуск продукта Microsoft не доказывает, что эти токены приносят доход.
Меня больше интересует, на каком этапе компании тратят бюджет и действительно ли он того стоит.
$TAO $FET $RENDER #AI
Нажмите на мой аватар, чтобы посмотреть реальные сделки с торговыми сигналами
9 октября Microsoft представила Decision 1 — инструмент для классификации, маршрутизации и принятия решений в рабочих процессах. Он выбирает результат из заранее заданных вариантов и указывает степень уверенности. Его задача — не генерировать длинные ответы.
Это влияет на то, кому платят за каждый этап задачи.
Например, система поддержки сначала определяет, о чём запрос: о возврате средств, доставке или технической проблеме, — а затем направляет его в соответствующий процесс. Для классификации и анализа сложного договора нужны разные возможности, объём ответа и затраты. Нет смысла по умолчанию использовать одинаково дорогую универсальную модель на каждом этапе.
Я считаю, что при закупке ИИ компании будут всё больше внимания уделять распределению задач. Простые решения можно поручить подходящим специализированным моделям, а сложные вопросы при необходимости передавать на следующий уровень. Сравнивать нужно расходы и цену ошибок во всём процессе, а не только то, насколько дёшево выглядит один вызов модели.
Это также объясняет, почему число вызовов не равно доходу: количество может расти, а состав задач и цена за вызов — меняться. Если ошибки приводят к повторной работе, кажущаяся низкая цена тоже перестаёт быть преимуществом.
Если говорить о связанных с ИИ активах, таких как TAO, FET и RENDER, стоит и дальше выяснять, за что именно пользователи платят в каждом из этих проектов. Выпуск продукта Microsoft не доказывает, что эти токены приносят доход.
Меня больше интересует, на каком этапе компании тратят бюджет и действительно ли он того стоит.
$TAO $FET $RENDER #AI
Нажмите на мой аватар, чтобы посмотреть реальные сделки с торговыми сигналами