Anthropic 开源 FlashProve:用密码学证明「这段回答确实是这个模型说的」

作者:许棠

Anthropic 于 11 月 3 日发布开源研究项目 FlashProve,用密码学给 AI 回答盖「防伪签名章」,帮人核实回复是否出自指定模型;但它目前只是阶段性原型,算力开销高、暂无落地计划。

Progress on provable inference for large language models

Anthropic 11 月 3 日发布开源研究项目 FlashProve,要解决一个具体问题:你用 AI 时,其实没法确认背后到底是哪家、哪个模型在回答你 。

它的原理类似加密邮件签名。服务商先公布一份不泄露模型权重的「指纹」,之后每条回复附一份密码学证明;任何人拿着提示词和回复就能核验,全程接触不到模型本身 。

Progress on provable inference for large language models
Anthropic is working on a system to prove AI models’ identity

它能防几类真事:第三方中转为了省钱悄悄换成便宜模型、厂商用贵模型虚抬跑分、有人冒充某款模型输出内容。短期先受益的是 API 用户和第三方审计,普通聊天用户暂时感知不到 。

代价得说清。实测基于 4000 亿参数的开源 Llama 4 Maverick,出证算力约为普通推理的 70—95 倍,每 1024 token 的证明约 19MB,CPU 核验约 17 秒 。官方明说这只是阶段性研究,暂无接入任何公司产品的计划 。所以先别当新功能等它:何时能用、费用谁出、要不要多一步手动验证,都还没有答案 。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·硬件体验官发布在 # Software and AI · softwareintegration 圈 · 1 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情