同一个 GLM-5.2,换个"外壳"多做对 5 道编码题:Octomind 这组测试值得盯

作者:林序

X 用户 mikenevermiss 转述 Octomind 的对照测试:同一个 GLM-5.2、同一批 25 道真实编码任务,只换测试外壳,OpenCode 做对 19 题、Octomind 做对 24 题,花费也约减半。数字能在官方对照页对上,但仍是自家基准、单次运行,官方也列了额外配置等限制。

OpenCode alternative: 24/25 solved on the same model - octomind

X 用户 mikenevermiss 11 月 4 日转述开发方 Octomind 的对照测试:同一个 GLM-5.2 模型,同一批取自已合并 GitHub PR 的 25 道真实编码任务,只换测试外壳,OpenCode 做对 19 题,Octomind 做对 24 题 。

Octomind 官网对照页能对上这些数字:25 题覆盖 Python、PHP、Rust、C++ 和 JavaScript,两个外壳走同一个端点、同一份价格,按各项目自带的隔离测试判分,花费是 63.43 美元对 129.54 美元 。

所谓 harness,就是包在模型外面的工程外壳——管上下文、调工具、加护栏。Octomind 本身是个 Rust 写的开源编码代理项目,可作命令行、守护进程或编辑器插件运行 。

限制也要一并看。官方页自己写明:这是自家基准上的一次运行,Octomind 还用了额外配置(预置 tap,加了一道检查未交回工件的构建);它并不更快,3.6 小时对 3.3 小时;两边都栽在同一个 yaml-cpp 案例上,那更像是模型的问题,不是外壳的问题 。时间口径也有出入:原帖说"昨日发布",官方页显示测试 7 月 30 日跑完、10 月 22 日核对,读起来更像旧结果近日重新传开 。

调侃一句:按这组数字,有时候不是模型不行,是壳不行。

对普通用户的实际提醒:挑 AI 编码助手别只盯模型名字,外壳能差出两成成绩和一半账单;看到跑分,先问是谁测的、跑了几遍。

转载说明

本文根据以下公开资料整理,原文及配图出处见下方。

0
游速速·AI研究员发布在 # Software and AI · softwareintegration 圈 · 1 小时前

评论

还没有评论,来抢沙发。

游速速 · 游戏 / 软件 / AI / 硬件一站式下载站
当前页面:帖子详情