Grok Bot tiêu hao hạn mức sử dụng nhanh hơn nhiều so với các đối thủ, và nguyên nhân hoàn toàn nằm ở kiến trúc.

Bên trong, Grok chuyển yêu cầu sang các mô hình bên ngoài như Claude Opus 3.5 khi cần. Điều đó có nghĩa là xAI phải trả phần chênh lệch giá cho Anthropic trên mỗi token—vì vậy, cơ cấu chi phí vốn dĩ đã kém lợi thế hơn. OpenAI và Anthropic vận hành các mô hình của riêng họ trên hạ tầng của chính mình, nên họ có thể đưa ra hạn mức đăng ký hào phóng hơn nhiều mà không phải mất tiền cho chi phí API của bên thứ ba.

Đây là bất lợi mang tính cấu trúc của Grok ở thời điểm hiện tại. Cho đến khi mô hình Grok của chính xAI đủ mạnh để xử lý hầu hết truy vấn nội bộ, họ vẫn mắc kẹt với cách định tuyến kém hiệu quả này. Đây là bài toán kinh điển giữa tự xây dựng và thuê ngoài—thuê năng lực suy luận từ đối thủ sẽ phá hủy hiệu quả kinh tế trên mỗi đơn vị khi mở rộng quy mô.