AI 前沿
Anthropic等团队发布大模型可证明推理进展FlashProve
Anthropic、EPFL、MIT等研究者介绍zkSNARK可证明推理系统FlashProve,用于证明回复确由指定模型生成。以4位量化的4000亿参数Llama 4 Maverick MoE模型为例,单张H100约每秒生成110个证明token,并开放代码和Lean证明。
Hacker News转载的研究文章由Anthropic、EPFL、MIT、StarkWare、RESI和Succinct等机构人员共同署名。文章指出,用户目前难以确认AI回复是否来自开发者声称的具体模型,路由服务可能为降低成本秘密替换模型,攻击者也可能篡改token流;仅根据输出质量并不可靠。
密码学推理证明可让模型提供方先承诺一个模型,再证明每条回复由该模型产生。研究者重点推进名为zkSNARK的证明方案,并介绍系统FlashProve。文章称,Claude在zkSNARK推理证明方面取得改进,速度显著快于此前开源系统。
技术结果方面,在400B参数的混合专家模型Llama 4 Maverick、4位量化权重、预填充阶段使用整数运算的设置下,单张H100 GPU生成证明的速度约为110 token/秒;每个1024 token请求的证明大小约19MB,GPU时间约为使用vLLM直接运行模型的70至95倍。此前开源系统则慢数个数量级。
该系统的模型承诺和后续推理证明可隐藏模型权重,但不以隐藏模型架构为目标。团队还使用形式化验证语言Lean提供顶层可审计声明。此次发布包括博客、技术报告、Claude撰写的协议规范、包含证明器及C++快速验证器和Lean可证正确验证器的可执行代码,以及Lean顶层数学证明和定理可视化工具,代码、证明与文档采用Apache 2.0许可。