AI 前沿
Anthropic研发FlashProve以密码学证明AI输出来自特定模型
Anthropic发布开源研究项目FlashProve,目标是通过密码学证明验证某段AI输出由特定模型生成。系统要求模型实验室发布不泄露权重的模型“指纹”,并可在本地轻量验证。目前仍处研究阶段,暂无部署计划。
据TechCrunch报道,Anthropic在周二的博客文章中介绍了名为FlashProve的开源系统。该系统旨在实现研究人员所说的“可证明推理”:用密码学证明为一段输出提供数学层面的保证,确认它确实来自用户所认为的特定模型。
FlashProve的作用类似加密电子邮件签名,可抵御把一个模型伪装成另一个模型的行为,即使实施伪装的是构建和运行模型的实验室。研究人员举例称,它可防止AI公司暗中用更便宜的模型降本,或用更昂贵模型夸大性能,也能核验第三方关于漏洞扫描、商业计划评估等任务由先进模型完成的说法。
系统要求AI实验室为发布的每个模型公布可与后续输出匹配的“指纹”。关键在于,这些指纹不会暴露模型权重,因此闭源商业模型也能参与。验证设计较轻量,可在本地设备完成。Anthropic同时发布了技术规范和部分工作代码,但研究仍在进行,公司或其他实验室暂无部署安排。