谷歌 AI 图片检测器上线一周多就改口:5 张真照片被判「AI 制作」,Full Fact 追问后加急更新

作者:许棠

谷歌 10 月初把 SynthID 检测器开放给所有人,登录后上传图片、视频或音频,就能查是否带 Google、OpenAI、Nvidia、Kakao 的 AI 水印。不到两周,英国事实核查机构 Full Fact 发现 5 张政客发布的真实照片被判「由 Google AI 制作或编辑」,谷歌 10 月 15 日加急更新,把这几张改判为「不确定」。误报率至今没有公开数字,查不出水印也不等于图片是人做的。

Google updates AI detector after Full Fact investigation finds it flagging apparently real images

谷歌在 10 月初把原本只给媒体和研究人员的 SynthID 检测器开放给所有人:登录 synthid.com,上传图片、视频或音频,就能查它是否带 Google、OpenAI、Nvidia、Kakao 四家加入的隐形水印;苹果据说「即将加入」。官方博客的日期是 10 月 7 日,TechCrunch 记录的开放日是 10 月 6 日。一周多之后的 10 月 15 日,谷歌给这个工具打了补丁——起因是英国事实核查机构 Full Fact 拿 5 张照片试了试,工具把它们全判成「由 Google AI 制作或编辑」。

五张真照片,两次「高置信度」

这 5 例贯穿今年 4 月到 8 月:威尔士党候选人 Niamh Salkeld 的竞选合影(她后来当选威尔士议会议员)、苏格兰民族党地方议员 Stephen Thompson 的支持者合影、自民党议员 Steve Darling 的导盲犬账号照片、工党议员 Kirsteen Sullivan 的教堂活动照、工党议员 Nadia Whittome 的电车自拍。当事人都否认用过 AI。Thompson 的原话是「我(知情地)完全没编辑,就是拿 iPhone 发的」。

给媒体用的专业版表现更差。它比公开版多给一张热力图(标注水印落在图上哪个位置)和置信度评级。结果 Thompson 那张被判「高置信度」AI,水印热区标在背景树上;导盲犬那张,水印定位在一片「看起来是随手一块的草地」。

谷歌怎么解释,补丁补住了吗

谷歌发言人的说法是:在没有具体怀疑的情况下大规模使用检测器,本来就更可能撞上偶发误报,所以建议把结果和其他线索一起看。更新后,这 5 张的结论变成「不确定」,新文案写着「我们不确定这张图是否由 SynthID 合作方的 AI 制作。AI 可能只做了很小的修改,也可能图片被篡改过」。

但补丁没有把问题清理干净。更新几天后,新芬党议员 Órfhlaith Begley 9 月发布的一张养老院照片,在公开版里仍被标为「AI 制作或编辑」,她本人否认。

准确率到底多少,没人回答

Debunk image Stephen Thompson
A photo of a mobile phone on the Google home page
Debunk image Niamh Salkeld

真正该问的是误报率,而这个数从来没人给。公开版 FAQ 只承认「在极少数情况下」会对没有水印的内容误触发,检测器自身的准确率、每日限额都没有公布。

网上流传的 99.72% 识别率要看清出处:那是 DeepMind 2025 年 10 月论文里的数字,厂商自测,测的是 SynthID-O 这个合作方变体,不是这个公开网页,也没有独立验证。Full Fact 自己也留了余地:这 5 例只能叫「疑似误报」,无法完全排除有人无意间用 AI 调过亮度;调查也没统计误报有多常见——过去近一年,它确实靠这个工具查实过不少真 AI 图。

误判落到人头上

对普通用户来说,一句「AI 制作」的结论截个图就够给活人扣上造假帽子,澄清通常没截图跑得快。对被判错的人更别扭:这个工具没有「确认没有 AI」这一档,被冤枉了只能口头否认,没有技术手段自证清白。选举季里尤其贵——政客的照片被标注成 AI,本身就是新闻。

反过来也要说清:查不出水印不等于图片是真实拍摄的。页面自己写着「这不是通用 AI 检测器」,它只认四家合作方的水印,Meta、微软的自家体系、Anthropic 的 C2PA 路线都不在其中。它盯的只是单一信号。

对我有什么用,要付什么

免费,登录即用,支持 20 种格式(11 种图片、3 种视频、6 种音频)。代价是每查一次就是把文件交给谷歌:官方说原图出结果即删,但会留下与你账号绑定的数字签名 24 小时,用于限额和防滥用;条款禁止脚本批量查验、禁止逆向探测水印,违规可被立即停用,具体每日配额不公开。

我的用法是:当线索,不当判决。看到「不确定」就当自己不知道;疑图先反向搜图、核对原始发布者,尽量传最高画质原图(压缩会拉低检测精度),多方印证再决定转不转——这也是谷歌和 Full Fact 都给的建议。

一个连真照片都敢判成 AI 的裁判,红牌得存疑。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·硬件体验官发布在 # Software and AI · softwareintegration 圈 · 2 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情