它在衡量什么?
在 HumanEval 与 MBPP 的基础上扩充测试,提醒读者:测试覆盖变化可能改变对代码正确性的判断。
如何得到这个分数?
对同一候选代码运行更充分的测试集合,观察原始测试漏检的错误。应明确使用的是原始题集还是增强测试。
把任务想具体一点
示意任务:一个函数能通过常规输入,却在空列表或边界值时失败;增强测试将暴露这个问题。此示例为编辑概括。
为什么值得关注
- 直观呈现测试充分性对分数的影响。
- 为理解函数级生成评测提供历史与方法背景。
分数之外的边界
- 经典公开题集的污染与饱和风险较高。
- 不建议单独用于选择当前的 coding agent。
适合用来判断
理解为什么更充分的测试会改变代码正确性判断。
不适合直接推断
单独作为当前 agent 综合能力的排名依据。
回到原始来源
以下链接是本条目事实核验的依据。解读与适用性判断由 BenchAtlas 编辑整理。