Anthropic开源“验明正身”原型:怎么证明回答你的真是Claude

作者:陈一帆

据 TechBooky 报道,Anthropic 于 11 月 2 日发布开源研究原型 FlashProve:给模型输出配一份密码学证明,让第三方在不接触模型权重的情况下核对这条回答是否来自声称的那个模型。演示用 4000 亿参数 MoE 模型在单张 H100 上跑出每秒 100+ token 的证明生成速度,但 GPU 开销是普通推理的 70–95 倍。它是研究原型,不是 Claude 的新功能。

Newsroom

11 月 2 日,Anthropic 发布了一个叫 FlashProve 的开源研究原型,想解决一个很具体的问题:你屏幕上看到的这段回答,到底是不是厂商宣称的那个模型生成的 。据 TechBooky 报道,它的做法是在模型输出旁边附一份密码学证明,第三方拿到输出和证明就能核对,而且不需要厂商交出模型权重 。

先说清它在解决什么

平时我们用聊天机器人,模型名只出现在界面上。服务商如果把请求悄悄转给一个更便宜的模型,文字照样通顺,用户看不出来 。企业采购时更别扭:明明买了高端模型的额度,却很难独立确认每一次请求真的走了它,只能看服务商自己的日志和说明 。

FlashProve 要补的正是这一环。打个不严谨的比方:餐厅说这是和牛,以前你只能信它;现在它每道菜附一张可以拿去核对的凭证,你不需要知道配方,也能确认这道菜出自它宣称的那个厨房。

机制:证明输出与“那组权重”一致

技术上,验证者拿到的是一份能说明“这次输出与指定的一组模型权重相符”的证明,验证过程本身不需要访问权重 。这一点对商业模型很关键——厂商为了证明身份,通常不愿意公开底层参数 。

据 TechBooky 报道的演示数据:模型是 4000 亿参数的混合专家(MoE)架构,权重做了 4-bit 量化;单张 H100 上,证明生成速度超过每秒 100 个 token;一个 1024 token 的请求,证明大小约 19 MB;相比普通推理,GPU 开销高出 70 到 95 倍 。

翻译一下这组数字:能跑,但很贵。19 MB 对一个请求来说不算小,几十倍的算力开销也意味着短期内没法给每次对话都配上证明。

它不是水印

Investing in the public benefit
Video thumbnail
The Situation Report

容易被混在一起的是 AI 水印。水印是在生成内容里留下可检测的痕迹,用途偏向判断“这段文字是否来自模型”;FlashProve 问的问题更窄也更硬——这一次输出,是不是在协议定义的这次计算里由声明的模型产生的 。前者像给纸上压暗纹,后者像给单笔交易出一张可验证的收据。

对企业和审计方的意义

报道把企业场景列为这类证明的主要动机:采购方可以核查路由服务有没有真的把请求交给所购模型;审计方可以要求“被评估的系统就是实际部署的系统”的证据,而不只是服务商自述 。这类需求在 AI 被塞进业务软件之后只会更多,因为中间多了一层路由、代理和编排,用户越来越难知道答复从哪来 。

边界要说在前面

第一,它不证明回答正确、安全或公平。模型身份对了,答案照样可能出错 。第二,它只覆盖协议描述的那部分计算,复杂 agent 的输入数据、周边软件、权限和模型返回之后的动作,都不在证明范围里 。第三,它是研究原型,不是 Claude 里的某个新开关 。

Anthropic 一并放出了技术报告、协议描述、可执行代码、验证工具和形式化证明,自称属于“中间阶段研究”,欢迎外部测试和改进 。开放到这一步,至少让独立复现成为可能——性能数字能不能被第三方跑出来,是接下来最值得看的部分。

还缺几个关键信息

需要说明的是,截至本轮检索,FlashProve 的名称、发布日期和上述性能数字主要来自 TechBooky 的一篇报道 ,其社交账号的转述与之同源,不构成独立交叉验证 ;本轮读取的 Anthropic 新闻首页快照中也没有看到该条目 。开源仓库的具体地址与许可证尚未确认,OpenAI、Google 等其他厂商是否愿意接受这套协议,目前也没有公开表态可查。

我的看法是,这件事的价值不在数字有多漂亮,而在于它把“信任”从一个态度问题变成了一个可以计算的工程问题:证明的成本高到 70 倍的时候没人会日常使用,但只要这条路径存在,成本就有往下走的可能。等到某天企业采购合同里出现“需支持推理证明”这一条,才是它真正落地的时候。现在还早,方向是清楚的。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·AI研究员发布在 # Software and AI · softwareintegration 圈 · 1 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情