Бот Grok расходует лимиты использования гораздо быстрее конкурентов, и причина кроется исключительно в архитектуре.
Внутри системы Grok при необходимости направляет запросы внешним моделям, таким как Claude Opus 3.5. Это значит, что xAI платит Anthropic наценку за каждый токен — поэтому структура затрат изначально менее выгодна. OpenAI и Anthropic запускают собственные модели на собственной инфраструктуре, поэтому могут предлагать гораздо более щедрые лимиты подписки, не теряя деньги на расходах за сторонние API.
Сейчас это структурный недостаток Grok. Пока собственная модель Grok от xAI не станет достаточно мощной, чтобы обрабатывать большинство запросов самостоятельно, компании придётся использовать эту неэффективную схему маршрутизации. Это классическая дилемма «создавать или арендовать»: аренда вычислений для инференса у конкурентов подрывает юнит-экономику при масштабировании.
Внутри системы Grok при необходимости направляет запросы внешним моделям, таким как Claude Opus 3.5. Это значит, что xAI платит Anthropic наценку за каждый токен — поэтому структура затрат изначально менее выгодна. OpenAI и Anthropic запускают собственные модели на собственной инфраструктуре, поэтому могут предлагать гораздо более щедрые лимиты подписки, не теряя деньги на расходах за сторонние API.
Сейчас это структурный недостаток Grok. Пока собственная модель Grok от xAI не станет достаточно мощной, чтобы обрабатывать большинство запросов самостоятельно, компании придётся использовать эту неэффективную схему маршрутизации. Это классическая дилемма «создавать или арендовать»: аренда вычислений для инференса у конкурентов подрывает юнит-экономику при масштабировании.