刷到 Anthropic 研究博客：开源了 FlashProve——用 zkSNARK 给大模型推理做「可验证证明」，证明这条回复确实出自承诺过的那组权重，但不泄露权重本身。
硬点：Llama 4 Maverick（约 4000 亿参数 MoE、4-bit）上，单张 H100 证明速度约 110 tokens/秒；每 1024 token 请求证明约 19 MB；普通 24 核 CPU 约 17 秒可验；相对 vLLM 推理大约 70–95 倍 GPU 开销。代码、Lean 形式化证明和协议说明一并 Apache 2.0 开源。
还是研究原型——目前主要 MoE、贪心整数解码、上下文约 1024；架构本身不隐藏。但 zk 从链上搬到模型输出这层，审计、路由防掉包这些场景突然现实多了。
#zkSNARK #AI #可验证推理 #Anthropic
硬点：Llama 4 Maverick（约 4000 亿参数 MoE、4-bit）上，单张 H100 证明速度约 110 tokens/秒；每 1024 token 请求证明约 19 MB；普通 24 核 CPU 约 17 秒可验；相对 vLLM 推理大约 70–95 倍 GPU 开销。代码、Lean 形式化证明和协议说明一并 Apache 2.0 开源。
还是研究原型——目前主要 MoE、贪心整数解码、上下文约 1024；架构本身不隐藏。但 zk 从链上搬到模型输出这层，审计、路由防掉包这些场景突然现实多了。
#zkSNARK #AI #可验证推理 #Anthropic
