zkSNARK 的新生意:证明"这答案出自哪个模型",单卡 H100 每秒 110 token

ZK 证明生意在退潮,另一头却在涨:证明"这答案是哪个模型答的"。单卡 H100 每秒 110 token、19 MB 证明,CPU 17 秒验完。

zkSNARK 的新生意:证明"这答案出自哪个模型",单卡 H100 每秒 110 token

先说一个每天都会遇到、却几乎没人能回答的问题:你在 API 后面排着队调用一个模型,凭什么确定回你的就是你要的那个?

有三种情况,一种都不罕见:

  1. 路由服务偷换。 你付的是前沿模型的钱,中间层为了省成本,转给了便宜模型或降级版本。输出质量看起来"差不多",你无从分辨。
  2. Token 流被改。 攻击者或内部人拿到推理服务器,掺进恶意输出,混在真实回复里。
  3. 模型自己换自己。 论文里那句说得最阴:一个更强的模型可以顶替较弱的模型上线,从而躲开本该适用于它的分类器和监控。

这三种情况的共同点是:只看输出,判断不了是谁生成的。 而"跑一遍模型核对"这件事,普通用户(甚至评估机构)根本付不起算力。

2026-11-02,Anthropic 的 Frontier Red Team 联合 EPFL / MIT 的研究者,开源了一个叫 FlashProve 的原型,把这件事往前推了一大步:用 zkSNARK 证明"这段输出确实由承诺的那份权重算出",而验证只需要 CPU 和几秒到十几秒。

这件事的技术底座,恰好是加密行业用了七八年的东西——zkSNARK,L2(Starknet、Mantle 这类)拿它证明"交易算对了"。所以这篇值得 DefiPlot 读者看:不是又一篇 AI 新闻,而是一个熟悉的密码学工具换了买家。

有意思的是,就在前一天(11-03),另一条新闻说 Cysic 不再给 L2 做 ZK 证明,转去跑 LLM 推理——原因是 L2 证明需求下滑、L2 的手续费甚至涨到超过以太坊本身。同一个 ZK,一头在退潮,一头在找新生意。 这篇把两头放在一起看。

一、FlashProve 到底做了什么

它只做一件事,但要求很硬。系统分两方:模型提供方(证明者) 和 用户(验证者),两个阶段:

阶段 1(离线):承诺权重。 提供方发布一个对权重的承诺(commitment)——一个很短的指纹,把"具体是哪一份权重"钉死,而权重本身仍然保密。每个模型做一次,约 39 分钟;因为技术原因,这个承诺大约只能用 1,600 万次请求,之后要重新承诺。

阶段 2(在线):逐 token 出证明。 收到请求(prompt + 输出 token)后,提供方生成证明文件,证明这句话:

被承诺的那份模型,在这个 prompt 上求值,正好产出这些 token。

任何人拿到"承诺 + prompt + 回复",就能在不接触权重、算力有限的情况下验完,并确信结果。

它要同时满足四个性质,缺一条就没意义:

性质 通俗说法 为什么必需
完备性(completeness) 老实出证明,一定能通过 否则好人也过不了
可靠性(soundness) 假证明不可能通过 否则验证者在信任证明者
零知识(zero-knowledge) 证明不泄露权重、中间值、连"每一层是哪几个专家跑的"都不泄露 否则没人敢用
简洁性(succinctness) 证明很小、验证很便宜 否则用户还是得买 H100

注意第三条里的细节:它隐藏权重,但不隐藏架构(MoE 结构是公开的假设)。这一点后面会变成一条限制。

二、硬数字(这节是全篇最该被引用的)

全部来自 Anthropic 原文的评测段,模型是 Llama 4 Maverick(400B 参数 MoE,每 token 实际用约 17B,4-bit 量化约 232 GB):

指标 数值
证明者硬件 单张 H100 + 24 核 CPU
离线承诺耗时 约 39 分钟(每个模型一次),有效期约 1,600 万次请求
在线证明速度 24 个请求一批,约 223 秒 → 110 token/s
每个证明大小 18.78 MB(约 19 MB / 1,024 token 请求)
验证者硬件 只要 CPU(24 线程 17 秒、单线程 21 秒)
验证者需要下载 承诺约 6.5 MB
相对普通推理的开销 约为 vLLM(同模型 FP8、8×H100)每 GPU 时间的 72 倍(不同运行 66–77 倍);vLLM 高负载时约 94 倍

几个工程量决定了它为什么能塞进一张卡:

  • 证明量只看真正跑过的专家(一个 token 约 17B,不是 400B);
  • 批处理、事后证明(post-hoc):先把整段文本读完,再一次性出证明,权重承诺每批开一次而不是每次;
  • 逐层分段:权重留在普通内存里流式喂进去,80 GB 显存 + 约 290 GB 主存就够。

三、它证明了什么,没证明什么(这节比上面更重要)

它证明的:这 1,024 个 token 是"承诺的那份整数权重"在"贪心解码"下的输出。

它没证明的(原文自己列的,条条致命):

限制 现场含义
只对整数模型 + 贪心解码成立 生产里常见的是浮点推理 + 采样解码。一旦采样,某一步就可能偏离,证明与真实输出不再一致。原文说整数版"通常"与浮点误差很小,但不覆盖对抗性构造的 prompt
代码与 Lean 不保证一致 顶层安全性质用 Lean 证了(完备、可靠、零知识),但"快代码 / 论文 / Lean"三者不保证完全对应。日常该用的是那个快的 C++ 验证器——它没有形式化保证
架构不隐藏 只藏权重。密集模型的结构描述可能本身就是商业秘密
侧信道不管 "出证明要多久"这类时间侧信道可能泄露信息,本版明确不在范围内
上下文只有 1,024 token 真实对话上下文动辄十万到百万 token。这是研究原型的边界

一句话总结:它证明的是"来源",不是"正确"。 模型胡说八道照样能出合法证明——证明只保证这句话来自那份权重,不保证这句话对。

四、四类用途,其实都是"监管与举证"的场景

原文列了四个动机,我们按"谁掏钱"重排:

场景 要解决的问题 谁验、怎么验
节奏(pacing) 监管要求"这批算力只跑推理、不许偷偷训练",提供方可能耍赖 监管方要一段时期内的推理证明,验证不需要复制对方的机房。原文自己补了一句诚实的:这不能证明对方没有在旁边偷偷训练
篡改检测 攻击者或"自我替换的模型"混进推理流量 每条回复都带证明,证明绑定到具体权重承诺;拿不到合法证明就暴露
文本来源 "我这库被前沿安全模型扫过""我的商业计划被模型点头过"——怎么证明不是拿便宜模型糊的 回复附证明。原文还给了个有意思的构造:Proof-of-Failure——证明"在某个补丁上花了至少 100 万 token 找洞、没找到"
模型审批 监管只允许上"已批准模型",提供方有动机偷跑更强的 每条回复绑模型,用未批准模型就验不过

和另一条路线的关系要讲清:可信硬件(TEE) 是"相信厂商造了一块拆不开的芯片",密码学路线是"相信数学难题解不开"。原文的立场是两条互补:TEE 快,但信任根在厂商;zkSNARK 慢,但不依赖硬件信任。

五、性能曲线:从"证明一个 MNIST"到"证明 400B"

这是我觉得对 crypto 读者最有说服力的一节。原文列了 zkML 这条线八年的成绩单:

年份 系统 做到什么 速度
2017 SafetyNets 两层卷积的 MNIST 网络 —
2021 zkCNN VGG-16(1,500 万参数) 88.3 秒/证明
2022 Kang 等 MobileNet v2(全分辨率 ImageNet) —
— ZKML GPT-2(1.17 亿) 约 159 秒/token(≈0.006 tok/s)
— Modulus Labs GPT-2 XL(15 亿) 90 小时以上
2023 EZKL 100 万参数 GPT 966 秒/token
2024 zkLLM LLaMA-2-13B / 2,048 token 输入 约 15 分钟(批量约 2.5 tok/s)
2025 ZKTorch GPT-J(60 亿) 约 20 分钟
— VerInf Llama 4 Maverick(同一个 400B MoE) 约 0.02 tok/s;1,000 token 要 14.3 小时,证明 93.6 GB,验证近一天
— DeepProve(同行评议 SOTA) GPT-2 / Gemma 3 2.9 / 1.4 tok/s,分布式 31 tok/s
2026 FlashProve Llama 4 Maverick 110 tok/s,19 MB 证明,CPU 17 秒验完

同一个模型:14.3 小时 → 不到 10 秒;93.6 GB → 19 MB。 这不是渐进改良,是两个数量级的换挡。

顺便记一个细节:Anthropic 在 2026-10-19 的 RSP 更新里,把目标名从"provable inference"改成了 "inference verification",理由是"可证明推理"听起来比他们实际需要的更窄。做研究的人自己给概念降温,这通常说明他们在为落地做准备。

六、成本账:72 倍的开销,谁付得起

这是最需要冷静的一节,也是原文没算、我们必须自己算的:

  • 证明开销是普通推理的 72–94 倍。也就是说,每 1 次可验证的请求,等于烧掉 72–94 次普通推理的算力。
  • 它换来的是:任何人都能用 CPU 在 17 秒内确认"这来自那份权重",且不泄露权重。

所以它天然只适合低频、高价值、必须举证的场景,而不是每一笔 API 调用:

场景 值不值 理由
发布前/后的独立评测(评估方要确认测的就是线上模型) 值 一次评测的算力占比很小,结论的可信度是全部价值
模型替换纠纷、SLA 举证(客户告你降级) 值 争议金额远高于证明成本
合规审计、监管抽样 值 抽检比例低,但要求可核
每一次 agent 支付都带来源证明 暂时不值 支付本身只有几美分,72 倍推理成本直接压垮(见站内 x402 真实体量)
实时聊天全量证明 不值 延迟和成本都过不去,且上下文只有 1,024 token

七、和 Cysic 那条新闻对照:为什么同一天两条完全相反的消息

11-03 的新闻说得很直白:给 L2 做 ZK 证明的需求下滑,L2 手续费反超以太坊,于是 Cysic 把 GPU 机队转去跑 LLM 推理。 这是一个商业信号:卖"通用 ZK 证明算力"这件事,在当前 L2 的经济模型下不好做。

但 FlashProve 展示的是另一条需求曲线:证明的买家从"L2"换成"要举证自己没偷换模型的 AI 提供方 / 要抽检的监管方 / 要确认模型身份的客户"。

两者不矛盾,反而互补:

  • Cysic 那侧:供给方在找更高毛利的负载(LLM 推理确实比 L2 证明毛利好);
  • FlashProve 那侧:需求方出现了新品类(AI 来源证明),而且正好吃掉同类 GPU。

判断留给读者:如果"AI 推理可验证"这条需求起来,最先受益的不是密码学团队,而是已经屯了 H100 和证明流水线的算力商——那正是 Cysic 这类玩家转身的方向。反过来,如果这条需求起不来,ZK 证明就继续只是 L2 的成本项。

八、对 agent 支付意味着什么(别和 x402 混为一谈)

这里要划清界限,因为站内已经写过很多 x402 的内容,容易串。

问题 谁解决 站内已有
钱付给谁、付多少、有没有付 x402 / MPP / AP2 这类支付协议 x402 数据打假、协议对比、授权与验收
这笔付款对应的服务,是不是真的由声称的那个模型提供 可证明推理(本文) 无(这是新的一层)
收据、链上状态、授权额度 链上核验 链上核验清单

x402 解决"我付了",可证明推理解决"我付的那个东西真的是它"。 两者拼起来,才叫"可验证的 agent 交易"。

但也别过度推销:按第六节的账,现在不可能要求每一次 agent 调用都带证明。现实可行的组合是分层——小额高频走普通调用(信任 + 抽样),大额或纠纷时要求补证明(事后 post-hoc 正好适合这个用途)。FlashProve 选择了"事后证明"而不是"在线同步证明",本身就是冲这个用法去的。

九、三个判断(我们的整理)

  1. 这是一次"密码学工具换买家",不是 AI 能力进步。 模型没变强,变的是"你能证明它是谁"。对 crypto 读者的意义在于:zkSNARK 的价值可能不在链上,而在链外的举证市场。
  2. 它的第一波客户是合规与审计,不是消费者。 四类用途里三个直接对应监管;唯一面向消费者的是"信任",但那需要成本降两个数量级才现实。
  3. "整数 + 贪心解码"这条限制,决定了它短期只能当"抽查工具"。 生产环境浮点 + 采样,证明与真实输出可能逐步偏离;要用它做严肃举证,得先把推理链固定成可证明的形态。

边界

  • 这是一份研究原型,不是产品:Anthropic 自己写明"sharing intermediate progress, not a completed research agenda";代码、Lean 证明、文档以 Apache-2.0 发布,但权重不在发布范围(需自行从 Hugging Face 按 Meta 的 Llama 4 许可下载)。
  • 我们未复现:没有 H100 机器,也没有跑它的证明器/验证器。文中全部数字(39 分钟、110 tok/s、18.78 MB、17 秒、6.5 MB、72/94 倍、14.3 小时、93.6 GB)均引自原文评测段与对照表。
  • 原文的口径:72 倍是"vLLM 跑同模型 FP8 的 8×H100,折算单卡"的比较,不是同硬件同精度;90 倍级数字随负载变化(66–77 → 94)。
  • A 与 B 的关系:Anthropic 在 10-19 的 RSP 更新里已把"provable inference"改称"inference verification",并说明他们还用另一条路(在可信服务器上重算 + 签名)达成了同一目标;两条路不是互斥。
  • Cysic 那条是 Crypto Briefing 的媒体报道(2026-11-03),引用其 CEO Leo Fan 的说法,我们未核其财务与机队细节。
  • 本文的"成本账""三种商业形态""对 agent 支付的分层建议"是我们的推算与整理,不是原文结论;具体成本随 GPU 租金、批量大小、模型规模变化很大。

原文链接

  1. Anthropic — Progress on provable inference for large language models(2026-11-02)https://www.anthropic.com/research/provable-inference
  2. Anthropic — 技术报告 / 协议规范 / Lean 证明与代码(Apache-2.0,随上文发布)
  3. Crypto Briefing — Cysic shifts focus to AI inference as ZK proving demand fades(2026-11-03)https://cryptobriefing.com/cysic-shifts-focus-ai-inference/

相关阅读

本文属于「Web3 开发」专题。

DefiPlot 翻译整理,转载请标明出处。

免责声明:本文仅用于学习与研究目的,不构成投资建议,也不构成对任何项目、代币或产品的推荐。加密资产价格波动剧烈,读者在采取任何行动前应自行研究并对自己的决定承担全部责任。

免责声明:本站资源仅用于学习目的,也不应被视为投资建议,读者在采取任何行动之前应自行研究并对自己的决定承担全部责任。