METR 在 Anthropic 待了 11 周,想量一量“AI 造 AI”到底有没有变快
作者:陈一帆
科技记者 Dave Lee 11 月 7 日发布视频称,外部评估机构 METR 在 Anthropic 内部驻场 11 周,专门研究“AI 是否正在加速研发 AI”。METR 过去主要为前沿模型做第三方能力与风险评估,这次把测量对象从“模型有多强”换成“研发本身有多快”,但它是否发布正式报告、驻场起止时间与范围仍待确认。
11 月 7 日,科技记者 Dave Lee 在 X 上发布了一段近 9 分钟的视频,主题是他跟进的一件事:外部评估机构 METR 在 Anthropic 内部待了 11 周,试图回答“AI 现在是否正在加速 AI 的建造” 。这不是一次模型发布前的例行打分,而是把测量对象从“模型有多强”换成了“研发这件事本身有多快”。
先讲 METR 是干什么的。可以把它理解成一家专给 AI 模型“量身高、测体能”的第三方机构:模型发布前后,外部人员进场,用相对公开的方法测它的任务完成能力和风险水平。METR 官网写明,它此前已与 OpenAI、Anthropic、Google DeepMind、Meta、Amazon 合作过前沿风险评估试点;这些公司也向它提供访问权限和 token,用于评测、研究与工程工作 。它同时也参与 NIST AI 安全研究所联盟、加州网络安全工作组,并与 AI Security Institute 合作、向欧盟 AI 办公室提供技术协助 。它的分量主要来自“不是厂商自己念分数”这一点。
这次的不同在于时长和位置。以往多是围绕发布节点做短周期评估,而据视频说法,这次是连续 11 周扎在 Anthropic 内部 ,相当于把秒表长期架在研发流水线旁边,去量一个过去基本只能听厂商自述的量:模型在多大程度上参与改进下一代模型。
视频的章节标题透露了一些线索 :“Two years in one”指向能力增长被压进更短的日历时间;“Running out of rulers”听起来是说现有基准快被“考满”、量尺不够用了;“The black bars”则对应画面里被打码的片段,说明 METR 看到的是内部真实工作场景,而不是公开版模型。需要说明,这些只是从章节名读出的线索,具体论证要看完整视频;Dave Lee 自己也留了一章“Could it be wrong?”,主动给判断留出证伪空间 。
他放在结尾的判断,重点其实不是“更快”,而是“独占”:如果模型在研发中扮演的角色越来越大,前沿公司会比公众早得多拿到最强模型,这几乎像是对“最聪明的智能”的垄断——公众拿到的总是次新一档,而这些公司用最强的模型去做发现、做产品、改写别人的生意 。这段话是他的观点,不是 METR 的结论,两者不能混着读。
对各家 AI 公司的进度意味着什么?现实一点看,它的价值是给“AI 加速研发 AI”这类此前大多来自厂商叙事的说法,装上一个可以复核的外部口径。如果测量方法站得住,未来比较不同实验室的研发效率、判断某家公司“跑得更快”是否属实,就不必只靠内部 PPT。但边界也要说清楚:METR 输出的是能力趋势的测量数据,不等于“AI 已经能自主造 AI”,后者目前没有独立证据支撑。
还有几件事没落地:11 周的起止日期与具体进驻范围、METR 是否就这次驻场发布正式报告、以及此前有没有同等时长的先例。在目前能读到的 METR 博客索引里,最新条目仍是 2025 年 2 月 8 日的一份前沿安全政策清单,尚未见到相关报告 。
如果报告最终发布,值得先看的不是结论那句话,而是量尺本身:任务怎么选、基线怎么定、打码的部分占多少。这些决定了那个“更快”到底是测出来的,还是被期待出来的。
转载说明
本文根据以下公开资料整理,原文及配图出处见下方。
评论 0
还没有评论,来抢沙发。