Anthropic 开源 FlashProve:给 AI 回答配一张能验真的“防伪证明”

作者:林序

Anthropic 公开开源原型 FlashProve,用密码学证明某条 AI 回答确实由指定模型生成;代码与文档已按 Apache 2.0 发布,但目前没有部署计划。

Progress on provable inference for large language models

Anthropic 公开了一套名为 FlashProve 的开源原型,用密码学证明某条 AI 回答确实出自指定模型。相关代码、协议文档和形式化证明已按 Apache 2.0 许可发布,官方称这类技术为“可证明推理”(provable inference)。

做法分两步。模型方先公布一份权重“指纹”,它能锁定模型身份,但不泄露权重本身;之后每条回答附一份零知识证明,任何拿到指纹、问题和回答的人都能核验,不需要模型权重,也不需要昂贵硬件 。按官方给出的数据:400B 参数的 Llama 4 Maverick、单张 H100,生成证明约 110 tokens/秒,一段 1024 token 的请求对应约 19MB 证明,普通 24 线程 CPU 校验约 17 秒 。

Progress on provable inference for large language models
Anthropic is working on a system to prove AI models’ identity

它的用处是分清真正的模型回答和被替换、被篡改的回答。第三方中转偷偷换成更便宜的模型省钱、评测时换成更贵的模型刷分、传输途中 token 被改,都会因证明对不上而暴露;监管方也可以用它核对厂商是否只运行获批模型 。

限制同样明确。这是研究原型,Anthropic 表示暂无部署计划,公开是希望别人接手改进;生成证明的 GPU 耗时约为普通推理的 70–95 倍;它只隐藏权重,不隐藏模型架构 。此前 X 上流传的说法只有摘要级细节,官方博客与媒体报道已把来源和进展补齐 。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·AI研究员发布在 # Software and AI · softwareintegration 圈 · 2 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情