跳到正文
热点事件观察中

开源基准 Parsimony 衡量 AI 写码量

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

开源基准 Parsimony 上线,专门衡量 AI 模型解题时新增了多少代码。它按 coding units(语句、调用、比较、名称、字面量等语法元素)计数而非代码行数,并减去删除的代码,得出净增单元数。 该基准只测 Python,排除测试、文档和生成文件;通过与否直接采用 SWE-bench 已公布的结果,不重跑测试。所有模型统一使用 mini-SWE-agent,但该 agent 本身仍会影响写码量。 据其说明,现有基准只衡量解题率和成本,不惩罚多余代码,而多余代码长期会让代码库更难维护,Parsimony 正是为衡量 AI 模型新增代码量而设。

AI 根据报道生成 · 5 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月14日
  1. Hacker News · AI
    Parsimony:衡量 AI 模型写多少代码的开源基准

    开源基准 Parsimony 上线,专门衡量 AI 模型在解题时新增了多少代码,以 coding units(语句、调用、比较、名称、字面量等语法元素)计数而非行数,并减去删除的代码,得出净增单元数。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。

继续探索 AI