EvalPlus

EvalPlus Team

用更充分的测试重新审视 HumanEval 与 MBPP,理解“通过测试”的边界。

测试充分性函数生成经典参考
经典参考最近核验 2026-10-24来源可追溯 · 编辑解读

它在衡量什么?

在 HumanEval 与 MBPP 的基础上扩充测试,提醒读者:测试覆盖变化可能改变对代码正确性的判断。

如何得到这个分数?

对同一候选代码运行更充分的测试集合,观察原始测试漏检的错误。应明确使用的是原始题集还是增强测试。

把任务想具体一点

示意任务:一个函数能通过常规输入,却在空列表或边界值时失败;增强测试将暴露这个问题。此示例为编辑概括。

为什么值得关注

  • 直观呈现测试充分性对分数的影响。
  • 为理解函数级生成评测提供历史与方法背景。

分数之外的边界

  • 经典公开题集的污染与饱和风险较高。
  • 不建议单独用于选择当前的 coding agent。

适合用来判断

理解为什么更充分的测试会改变代码正确性判断。

不适合直接推断

单独作为当前 agent 综合能力的排名依据。

回到原始来源

以下链接是本条目事实核验的依据。解读与适用性判断由 BenchAtlas 编辑整理。