Một công ty Trung Quốc nói mô hình mới đã cắt giảm 70% chi phí sử dụng. Nhưng khi mở bảng giá ra, đơn giá mỗi triệu token chỉ giảm một nửa. 20% còn lại nằm trong mục bộ nhớ đệm.
Ngày 19 tháng 10, MiniMax ra mắt M3.1 Flash. Mô hình có kiến trúc chuyên gia hỗn hợp với 428 tỷ tham số, nhưng mỗi lần chỉ kích hoạt 23 tỷ. Cửa sổ ngữ cảnh một triệu token, xử lý trực tiếp cả hình ảnh lẫn video. Tất cả những thông tin này đều do chính họ công bố, bên ngoài vẫn chưa ai tái hiện được.
Còn bảng giá thì khá rõ ràng. Một triệu token đầu vào: 0,15 đô la. Đầu ra: 0,6 đô la. Đầu vào đã đọc từ bộ nhớ đệm: 0,015 đô la. Thế hệ trước, M3, có giá lần lượt là 0,3 và 1,2 đô la. Đơn giá cứ thế giảm một nửa.
Thông cáo chính thức viết rằng chi phí giảm 70%. 20 điểm phần trăm chênh lệch kia không nằm trong giá. Không có lấy một phần nào.
Tôi nghĩ mãi đến nửa đêm. 0,15 và 0,015 chênh nhau mười lần, mà đều tính bằng đô la. Khoảng chênh này khá lớn. Ai từng chạy agent đều biết, thứ thực sự ngốn tiền trong một lượt tác vụ là phần ngữ cảnh phải nạp lại ở mỗi vòng: kho mã, định nghĩa công cụ, nhật ký của hơn chục bước đầu. Cứ lặp đi lặp lại, chẳng sửa một chữ nào, nhưng vẫn phải trả giá đầy đủ.
Giá bộ nhớ đệm tách riêng phần đó ra và chỉ tính một phần mười. Tổng hóa đơn cứ thế giảm xuống. Đơn giá giảm 50%, tổng hóa đơn giảm 70% — cả hai con số đều đúng, nhưng hoàn toàn không nói về cùng một chuyện. Hai chuyện khác nhau.
Nhà cung cấp nói chi phí giảm 70% không phải là nói dối. Người đọc hiểu thành mọi thứ đều rẻ hơn thì mới thành vấn đề. Thứ rẻ hơn là đơn giá; khoản tiết kiệm đến từ việc tránh lặp lại.
Ethereum đã làm điều tương tự từ nhiều năm trước. Trong đợt nâng cấp Istanbul năm 2019, phí cho mỗi byte dữ liệu đi kèm một giao dịch giảm từ 68 gas xuống còn 16. Lý do rất đơn giản: những byte này phải được lưu trữ vĩnh viễn, nhưng không cần mọi nút đều thực thi lại chúng. Đến đợt nâng cấp Cancun năm 2024, dữ liệu của rollup còn được dành riêng một kênh: mỗi blob có dung lượng 128 KB, phí được tính riêng với gas thực thi, tự tăng tự giảm. Cùng một lô byte được đưa vào hai nhóm khác nhau, giá có thể chênh nhau hàng chục lần.
Suốt chặng đường ấy, chẳng ai hô hào là rẻ hơn. Chẳng ai nói chi phí giảm bao nhiêu phần trăm. Chỉ thay đổi cách tính phí. Hiệu quả thì vẫn vậy. Chuyện chỉ có thế.
Vậy rốt cuộc 70% này được tiết kiệm bằng cách nào?
Thực ra, họ nhận diện phần dữ liệu bị đọc lặp lại trong các tác vụ agent rồi áp giá một phần mười cho nó. Ai nhận diện được phần nào trong quy trình của mình bị lặp lại thì được hưởng mức giá đó. Không nhận diện được thì trả đủ giá, không thiếu một xu. Chỉ vậy thôi.
Kết quả là họ dám viết trong thông cáo rằng chi phí mỗi tác vụ dưới 5 xu. Bán theo token thì khách hàng sẽ lấy máy tính ra tính. Bán theo tác vụ thì khách hàng không thể so sánh được. Họ tự chạy bộ đánh giá gồm 152 bài, hóa đơn là 111 đô la. Con số này khớp, nên chẳng ai đi kiểm tra những con số khác nữa.
Vẫn còn vài điều bỏ ngỏ. Họ nói sẽ phát hành trọng số vào ngày 23, nhưng chẳng nhắc một chữ nào đến giấy phép. Tất cả điểm số đều do họ tự công bố, chưa có bên thứ ba nào tái hiện. Ở mục DeepSWE, mô hình đạt 73,7; DeepSeek V4.1 Flash đạt 74,2, cao hơn nửa điểm. Trong bài kiểm tra thiết bị đầu cuối, mô hình đạt 38,1; Opus 5 cao hơn 13,7 điểm. Chính họ liệt kê những con số này trong bảng. Quả thực chẳng giấu gì.
Còn một điều nữa: không thể tắt chế độ suy luận. Dù là câu hỏi đơn giản, mô hình cũng phải suy nghĩ một lượt trước đã. Trong khoản tiền tiết kiệm được còn ẩn một hóa đơn khác. Ai trả? Vẫn chưa rõ.
Nếu bạn đang chạy agent, trước tiên đừng chăm chăm nhìn đơn giá. Hãy xem mỗi vòng bạn nhét bao nhiêu thứ không thay đổi vào ngữ cảnh. Phần đó mới là thứ có thể cắt giảm.
Khoản tiền ấy vẫn luôn nằm trên hóa đơn.
$BTC $ARB $TAO
#AI #大模型 #以太坊 #比特币 #giảmchi phí
Ngày 19 tháng 10, MiniMax ra mắt M3.1 Flash. Mô hình có kiến trúc chuyên gia hỗn hợp với 428 tỷ tham số, nhưng mỗi lần chỉ kích hoạt 23 tỷ. Cửa sổ ngữ cảnh một triệu token, xử lý trực tiếp cả hình ảnh lẫn video. Tất cả những thông tin này đều do chính họ công bố, bên ngoài vẫn chưa ai tái hiện được.
Còn bảng giá thì khá rõ ràng. Một triệu token đầu vào: 0,15 đô la. Đầu ra: 0,6 đô la. Đầu vào đã đọc từ bộ nhớ đệm: 0,015 đô la. Thế hệ trước, M3, có giá lần lượt là 0,3 và 1,2 đô la. Đơn giá cứ thế giảm một nửa.
Thông cáo chính thức viết rằng chi phí giảm 70%. 20 điểm phần trăm chênh lệch kia không nằm trong giá. Không có lấy một phần nào.
Tôi nghĩ mãi đến nửa đêm. 0,15 và 0,015 chênh nhau mười lần, mà đều tính bằng đô la. Khoảng chênh này khá lớn. Ai từng chạy agent đều biết, thứ thực sự ngốn tiền trong một lượt tác vụ là phần ngữ cảnh phải nạp lại ở mỗi vòng: kho mã, định nghĩa công cụ, nhật ký của hơn chục bước đầu. Cứ lặp đi lặp lại, chẳng sửa một chữ nào, nhưng vẫn phải trả giá đầy đủ.
Giá bộ nhớ đệm tách riêng phần đó ra và chỉ tính một phần mười. Tổng hóa đơn cứ thế giảm xuống. Đơn giá giảm 50%, tổng hóa đơn giảm 70% — cả hai con số đều đúng, nhưng hoàn toàn không nói về cùng một chuyện. Hai chuyện khác nhau.
Nhà cung cấp nói chi phí giảm 70% không phải là nói dối. Người đọc hiểu thành mọi thứ đều rẻ hơn thì mới thành vấn đề. Thứ rẻ hơn là đơn giá; khoản tiết kiệm đến từ việc tránh lặp lại.
Ethereum đã làm điều tương tự từ nhiều năm trước. Trong đợt nâng cấp Istanbul năm 2019, phí cho mỗi byte dữ liệu đi kèm một giao dịch giảm từ 68 gas xuống còn 16. Lý do rất đơn giản: những byte này phải được lưu trữ vĩnh viễn, nhưng không cần mọi nút đều thực thi lại chúng. Đến đợt nâng cấp Cancun năm 2024, dữ liệu của rollup còn được dành riêng một kênh: mỗi blob có dung lượng 128 KB, phí được tính riêng với gas thực thi, tự tăng tự giảm. Cùng một lô byte được đưa vào hai nhóm khác nhau, giá có thể chênh nhau hàng chục lần.
Suốt chặng đường ấy, chẳng ai hô hào là rẻ hơn. Chẳng ai nói chi phí giảm bao nhiêu phần trăm. Chỉ thay đổi cách tính phí. Hiệu quả thì vẫn vậy. Chuyện chỉ có thế.
Vậy rốt cuộc 70% này được tiết kiệm bằng cách nào?
Thực ra, họ nhận diện phần dữ liệu bị đọc lặp lại trong các tác vụ agent rồi áp giá một phần mười cho nó. Ai nhận diện được phần nào trong quy trình của mình bị lặp lại thì được hưởng mức giá đó. Không nhận diện được thì trả đủ giá, không thiếu một xu. Chỉ vậy thôi.
Kết quả là họ dám viết trong thông cáo rằng chi phí mỗi tác vụ dưới 5 xu. Bán theo token thì khách hàng sẽ lấy máy tính ra tính. Bán theo tác vụ thì khách hàng không thể so sánh được. Họ tự chạy bộ đánh giá gồm 152 bài, hóa đơn là 111 đô la. Con số này khớp, nên chẳng ai đi kiểm tra những con số khác nữa.
Vẫn còn vài điều bỏ ngỏ. Họ nói sẽ phát hành trọng số vào ngày 23, nhưng chẳng nhắc một chữ nào đến giấy phép. Tất cả điểm số đều do họ tự công bố, chưa có bên thứ ba nào tái hiện. Ở mục DeepSWE, mô hình đạt 73,7; DeepSeek V4.1 Flash đạt 74,2, cao hơn nửa điểm. Trong bài kiểm tra thiết bị đầu cuối, mô hình đạt 38,1; Opus 5 cao hơn 13,7 điểm. Chính họ liệt kê những con số này trong bảng. Quả thực chẳng giấu gì.
Còn một điều nữa: không thể tắt chế độ suy luận. Dù là câu hỏi đơn giản, mô hình cũng phải suy nghĩ một lượt trước đã. Trong khoản tiền tiết kiệm được còn ẩn một hóa đơn khác. Ai trả? Vẫn chưa rõ.
Nếu bạn đang chạy agent, trước tiên đừng chăm chăm nhìn đơn giá. Hãy xem mỗi vòng bạn nhét bao nhiêu thứ không thay đổi vào ngữ cảnh. Phần đó mới là thứ có thể cắt giảm.
Khoản tiền ấy vẫn luôn nằm trên hóa đơn.
$BTC $ARB $TAO
#AI #大模型 #以太坊 #比特币 #giảmchi phí