🧠 Mẹo AI: Các token suy luận ẩn vẫn bị tính phí, ngay cả khi bạn không bao giờ thấy chúng

Các mô hình suy luận của OpenAI lập kế hoạch trước khi trả lời. Những token đó không bao giờ xuất hiện trong phản hồi API, nhưng vẫn bị tính phí như token đầu ra.

Tham số điều chỉnh là reasoning.effort: none, minimal, low, medium, high, xhigh hoặc max, tùy thuộc vào mô hình. Mức thấp hơn cho tốc độ nhanh hơn và chi phí thấp hơn. gpt-5.5 mặc định là medium. GPT-5.6, GPT-6.1 Sol, GPT-6 Sol và GPT-6 Luna cũng vậy nếu bạn không đặt tham số này.

Dùng low cho câu trả lời hỗ trợ, bản nháp và mã đơn giản. Giữ high cho việc gỡ lỗi khó, và chỉ dùng xhigh nếu kết quả đánh giá của chính bạn cho thấy cần thiết. GPT-6 Astra từ chối "none" với HTTP 400. GPT-6.1 Sol từ chối none và minimal.

Giới hạn max_output_tokens quá thấp có thể khiến toàn bộ số token bị dùng hết cho việc suy luận. Bạn sẽ nhận được "incomplete", không có câu trả lời, nhưng vẫn bị tính phí. Khi thử nghiệm, hãy dành ít nhất 25.000 token cho suy luận và câu trả lời.

Ví dụ: {"effort": "low"} cho câu trả lời hỗ trợ, "high" để gỡ lỗi khó.

⭐ Điều chỉnh tham số cho phù hợp với công việc.

#AI