它在衡量什么?
适合关注终端型 coding agent 的读者。任务需要 agent 自主操作工具并检查结果;官方同时展示 model 与 agent,提醒读者评估的是一个系统。
如何得到这个分数?
在预设环境中运行 agent,通过任务 verifier 判断完成情况。4.0 校准时间、CPU 与内存配置,降低基础设施噪声。结果应连同运行成本、agent 和版本一起阅读。
把任务想具体一点
示意任务:接手一个无法构建的项目,排查环境依赖、修改配置,最终产出能通过验证的构建结果。此示例为编辑概括,并非原题。
为什么值得关注
- 覆盖连续工具调用与环境操作,贴近终端 agent 的使用方式。
- 官方更新日志明确说明任务与基础设施修订。
分数之外的边界
- 不同版本删除或修复任务,跨版本分数不能直接相减。
- 模型、harness、工具配置和预算都会影响结果。
- 长任务的运行费用与环境资源需要单独考虑。
适合用来判断
理解 Codex、Claude Code、pi 等终端工作流需要的能力。
不适合直接推断
仅用一个成功率断定基础模型的纯推理能力。
回到原始来源
以下链接是本条目事实核验的依据。解读与适用性判断由 BenchAtlas 编辑整理。