我用 AI 这两年最堵心的, 是答案我永远没法验, 直到看到 OpenGradient 把每次推理都甩出一份密码学证明, 才觉得这个黑盒终于有人敢拆。
我有切身体感。前阵子我用某主流模型查合规口径, 答案听着头头是道, 翻了几条引用, 三条里两条是它自己编的; 换个号再问同一句, 答案变了, 模型悄悄换没换过它不告诉我。黑盒坑的不只是隐私, 是你拿到的答案是不是你以为那个模型在你以为的环境里跑出来的。$RE
打个跨界比方, 主流 AI 像没装行车记录仪的出租车, 师傅有没有绕路全靠你事后脑补; 装上记录仪, 每一公里都能倒查。OpenGradient 干的就是给 AI 装行车记录仪这件事, 每次推理附一份密码学证明, 谁、用哪个模型、在哪种环境、产出什么, 任何人都能独立校验, 不必信厂商口供。
我以前以为可验证只是工程师洁癖, 没什么用户价值。扒过公开数据才修正, 200 多万次可验证推理、50 多万份密码学证明、覆盖 200 万 + 用户, 这不是 demo, 是已经跑过的真实流量。可验证 AI 第一次摸到了消费级体量, 不再是论文里的 zk 玩具。
我不替它兜底。每份证明都有算力代价, zk 放大到亿次推理那一档, 成本曲线还没压下来; 证明只能保证那个模型确实跑过, 不替你担保模型不胡说, 黑箱拆开了, 里面是不是骗子是另一回事; 测试网阶段证明系统升级一次, 旧版本的某些性质就会变。
我自己想看的几件事也挺直接。想看 OpenGradient 主网上线后这套证明的端到端开销能不能再压一档, 想看第三方独立校验工具能不能跑出和官方一致的结果, 也想看哪天有 AI 应用愿意把每条输出的证明哈希直接挂在前端给用户看。这几条没到位之前, 黑箱拆开是好事, 里面装的是什么, 还得自己再看一眼。$HEI
#opg $OPG @OpenGradient