Vừa thấy bài trên blog nghiên cứu của Anthropic: họ đã mã nguồn mở FlashProve — dùng zkSNARK để tạo “bằng chứng có thể xác minh” cho quá trình suy luận của mô hình lớn, chứng minh câu trả lời này thực sự được tạo ra từ bộ trọng số đã cam kết mà không tiết lộ chính các trọng số đó.
Điểm đáng chú ý: trên Llama 4 Maverick (khoảng 400 tỷ tham số MoE, 4-bit), một GPU H100 tạo bằng chứng với tốc độ khoảng 110 token/giây; mỗi yêu cầu 1024 token tạo ra bằng chứng khoảng 19 MB; CPU phổ thông 24 nhân có thể xác minh trong khoảng 17 giây; chi phí GPU cao hơn khoảng 70–95 lần so với suy luận bằng vLLM. Mã nguồn, chứng minh hình thức bằng Lean và tài liệu giao thức đều được phát hành mã nguồn mở theo giấy phép Apache 2.0.
Dù vậy, đây vẫn là nguyên mẫu nghiên cứu — hiện chủ yếu hỗ trợ MoE, giải mã số nguyên tham lam và ngữ cảnh khoảng 1024 token; bản thân kiến trúc không được che giấu. Nhưng khi zk được chuyển từ on-chain sang lớp đầu ra của mô hình, các ứng dụng như kiểm toán hay định tuyến để ngăn tráo hàng bỗng trở nên thực tế hơn nhiều.
#zkSNARK #AI #可验证推理 #Anthropic