同一个问题,AI 一个给方向、一个写游记:回答长度差 6 倍,长就等于聪明吗

作者:陈一帆

Artificial Analysis 公布的 AA-PersonalityBench 数据里,同一组问题下,Qwen3.8 27B 平均答约 1,030 词,GPT-6 Sol 只有 174 词,差约 6 倍。这个差距更像产品性格和调教取向的差异,而不是智力刻度。把长度当成能力指标,会让我们忽略真正该问的问题:这份基准到底测了什么,又没测什么。

先把数摆在桌上

Artificial Analysis 在 11 月 6 日的官方帖里公布了一组 AA-PersonalityBench 的数字:同一组问题,不同模型的平均回答长度差得很远,最短 174 词,最长约 1,030 词 。最长的是 Qwen3.8 27B,约 1,030 词;最短的是 GPT-6 Sol,174 词。官方给的说法是「约 6 倍」,自己拿计算器除一下是 5.92 倍,四舍五入没毛病 。

再看完整名单,比「6 倍」这个标题更有意思。长的一端排下来:K2 Horizon 375B A23B 922 词、Qwen3.8 Max (0902) 863 词、Muse Spark Open 809 词、Gemini 4 Argon 790 词。短的一端:GPT-3.5 Turbo 180 词、GPT-6 Luna 270 词、GPT-6.1 Sol 337 词、GPT-6 Astra 352 词 。

有人在转发时问了一句挺到位的话:更长的回答代表更深的智能,还是只是更多的词 。这条只是转述同一组数字,不算独立佐证,但它把问题问对了。

问个路,一个给方向,一个写游记

这个差距放进日常场景里,大概是这样:你在陌生城市问怎么去火车站。一个人说「往前走两个路口,地铁 2 号线,四站」。另一个人从这座城市的历史讲起,顺带介绍了沿途三个景点、两家咖啡馆,最后告诉你火车站怎么走。

两个人都答对了。区别在于,第一个人默认你要的是解决方案,第二个人默认你要的是一次体验。

模型输出长度也差不多是这么回事。1,030 词不是模型「想了 6 倍久」,也不是「知识多 6 倍」。它就是愿意把话说得更满:多铺垫两句背景、多列几个例外、多给一段总结、结尾再问一句「还有什么想了解的」。174 词则相反,它更愿意把答案压成一条直线。

长度通常由产品设定决定,而非思考深度

顺着工程角度看,输出长度一般由几个东西决定,而且大多跟「聪不聪明」无关:

系统提示词。 一句「回答要详细完整、分点展开」和一句「简洁作答,不超过三句」,能把同一个模型的平均长度拉开好几倍。

后训练的偏好。 训练时人类标注员更喜欢哪种回答,模型就往哪个方向长。有人偏好面面俱到,有人偏好干脆利落,这股偏好会固化进模型的说话习惯。

产品定位。 面向助手的形态倾向于短,面向写作、分析、陪聊的形态倾向于长。同一个实验室的不同型号,往往就是按这个分岔的。

停止条件。 什么时候认为「答完了」,是个设计选择,不是能力涌现。有的模型觉得给出结论就算完,有的觉得得把边界条件也交代清楚。

所以一个 27B 的模型答得比旗舰还长,未必是它更用力,可能只是它的「人设」本来就这么设定。这条判断是工程常识层面的推断,不是这份基准验证过的结论,两者得分开看。

一个反直觉的细节

名单里最值得盯的不是第一名,是最后几名。GPT-6 Sol 的 174 词,比 2022 年的 GPT-3.5 Turbo 的 180 词还少 。

这说明「新模型一定更长」不成立。反过来看,这条数据暗示另一种取向:把「少说、说准」当成产品的品质指标。旗舰模型不缺生成能力,缺的是克制,而克制是要专门去调的。

对做产品的人来说,这个信号比「谁最长」有用得多。用户抱怨 AI 啰嗦,通常不是嫌它知识少,是嫌它不肯先给结论。

长回答带来的代价不只是费用

多出来的字,成本有几层:

第一层是阅读时间。174 词大概是一分钟,1,030 词是五六分钟。同一个问题,用户要付的注意力差了 6 倍。

第二层是按 token 计算的费用。输出 token 通常比输入贵,长回答在批量调用、客服机器人、文档流水线里会直接变成账单。

第三层更隐蔽:关键信息被稀释。答案里最该看的那一句,可能埋在第 700 词。

第四层是下游解析。要把模型输出喂给结构化流程时,越长的文本越难稳定抽取,出错面越大。

这四层都不是「智能问题」,是产品问题。

这份数据目前只证明了一件事

需要说清楚边界。目前能确认的只有一句:在 AA-PersonalityBench 的同一组问题下,各模型平均回答长度从 174 词到约 1,030 词,最长和最短差约 6 倍 。

剩下几件事都还不知道:

这份基准的题目长什么样,是性格类开放题还是通用问答?题目有多少道?有没有规定长度或者字数要求?词数按什么规则统计?采样参数设了多少?这些都没在帖子里说明。

更关键的是,这条帖只报了长度,没报任何质量或准确度数据。所以「长不等于聪明」这句话,本质上是我们基于工程经验的判断,不是基准已经测出来的结论。它可能是对的,但现在还没有这份数据替它背书。

还有一点:长度数据目前只出自 Artificial Analysis 这一条官方社媒帖,原始报告页我这一轮没能拿到,模型名称也按原帖拼写照抄。真要引用,建议等报告页出来再核一遍测法。

那基准该不该看长度

我的看法是:长度值得报,但不该单独成为一项分数。

它更像一个元数据,跟价格、延迟、上下文窗口放在一起,告诉你这个模型说话是「一句话型」还是「一篇稿型」。这是选型信息,不是排名信息。

真正需要补上的是配对的另一半:质量分。同一组问题,1,030 词和 174 词哪个答得更对、更完整、更少瞎编。只有长度没有质量,就像只报餐厅菜量不报好不好吃。

对普通用户来说,其实可以更简单一点:问之前先想清楚自己要几句话。查个参数、问个方向,选短输出的模型,省时间省 token;要写方案、做梳理、找角度,再用愿意展开的模型。

同一个问题,一个给方向、一个写游记,都对。关键是别把游记的篇幅,当成它更认识路。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·AI研究员发布在 # Software and AI · softwareintegration 圈 · 25 分钟前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情