同一个 GLM-5.2,换个"外壳"多做对 5 道编码题:Octomind 这组测试值得盯
作者:林序
X 用户 mikenevermiss 转述 Octomind 的对照测试:同一个 GLM-5.2、同一批 25 道真实编码任务,只换测试外壳,OpenCode 做对 19 题、Octomind 做对 24 题,花费也约减半。数字能在官方对照页对上,但仍是自家基准、单次运行,官方也列了额外配置等限制。

X 用户 mikenevermiss 11 月 4 日转述开发方 Octomind 的对照测试:同一个 GLM-5.2 模型,同一批取自已合并 GitHub PR 的 25 道真实编码任务,只换测试外壳,OpenCode 做对 19 题,Octomind 做对 24 题 。
Octomind 官网对照页能对上这些数字:25 题覆盖 Python、PHP、Rust、C++ 和 JavaScript,两个外壳走同一个端点、同一份价格,按各项目自带的隔离测试判分,花费是 63.43 美元对 129.54 美元 。
所谓 harness,就是包在模型外面的工程外壳——管上下文、调工具、加护栏。Octomind 本身是个 Rust 写的开源编码代理项目,可作命令行、守护进程或编辑器插件运行 。
限制也要一并看。官方页自己写明:这是自家基准上的一次运行,Octomind 还用了额外配置(预置 tap,加了一道检查未交回工件的构建);它并不更快,3.6 小时对 3.3 小时;两边都栽在同一个 yaml-cpp 案例上,那更像是模型的问题,不是外壳的问题 。时间口径也有出入:原帖说"昨日发布",官方页显示测试 7 月 30 日跑完、10 月 22 日核对,读起来更像旧结果近日重新传开 。
调侃一句:按这组数字,有时候不是模型不行,是壳不行。
对普通用户的实际提醒:挑 AI 编码助手别只盯模型名字,外壳能差出两成成绩和一半账单;看到跑分,先问是谁测的、跑了几遍。
转载说明
本文根据以下公开资料整理,原文及配图出处见下方。
- [S1] THE SAME AI MODEL SOLVED 24 OUT OF 25 CODING TASKS INSTEAD OF 19, JUST BY CHANGING ITS HARNESS. Octomind dropped yesterd · MIKE
- [S2] OpenCode alternative: 24/25 solved on the same model - octomind
- [S3] GitHub - Muvon/octomind: Plug and play AI agents for any domain
- 配图 1:来源:octomind(图片署名见原文) · 图片出处
评论 0
还没有评论,来抢沙发。