Anthropic 开源 FlashProve:用密码学证明「这段回答确实是这个模型说的」
作者:许棠
Anthropic 于 11 月 3 日发布开源研究项目 FlashProve,用密码学给 AI 回答盖「防伪签名章」,帮人核实回复是否出自指定模型;但它目前只是阶段性原型,算力开销高、暂无落地计划。

Anthropic 11 月 3 日发布开源研究项目 FlashProve,要解决一个具体问题:你用 AI 时,其实没法确认背后到底是哪家、哪个模型在回答你 。
它的原理类似加密邮件签名。服务商先公布一份不泄露模型权重的「指纹」,之后每条回复附一份密码学证明;任何人拿着提示词和回复就能核验,全程接触不到模型本身 。


它能防几类真事:第三方中转为了省钱悄悄换成便宜模型、厂商用贵模型虚抬跑分、有人冒充某款模型输出内容。短期先受益的是 API 用户和第三方审计,普通聊天用户暂时感知不到 。
代价得说清。实测基于 4000 亿参数的开源 Llama 4 Maverick,出证算力约为普通推理的 70—95 倍,每 1024 token 的证明约 19MB,CPU 核验约 17 秒 。官方明说这只是阶段性研究,暂无接入任何公司产品的计划 。所以先别当新功能等它:何时能用、费用谁出、要不要多一步手动验证,都还没有答案 。
转载说明
本文根据以下公开资料整理,原文及配图出处见下方。
- [S1] 𝐀𝐧𝐭𝐡𝐫𝐨𝐩𝐢𝐜’𝐬 𝐅𝐥𝐚𝐬𝐡𝐏𝐫𝐨𝐯𝐞 𝐭𝐨 𝐕𝐞𝐫𝐢𝐟𝐲 𝐈𝐝𝐞𝐧𝐭𝐢𝐭𝐲 𝐨𝐟 𝐀𝐈 𝐌𝐨𝐝𝐞𝐥𝐬 Can you really trus · Analytics Insight
- [S2] Progress on provable inference for large language models
- [S3] Anthropic is working on a system to prove AI models’ identity
- 配图 1:来源:www.anthropic.com(图片署名见原文) · 图片出处
- 配图 2:来源:www.anthropic.com(图片署名见原文) · 图片出处
- 配图 3:来源:TechCrunch(图片署名见原文) · 图片出处
0
评论 0
还没有评论,来抢沙发。