用 WikiBench 评估 OpenWiki
LangChain 开源了代码库文档生成与维护的 agent——OpenWiki,并构建了 WikiBench 来回答两个问题:wiki 是否真正帮助编码 agent?对 OpenWiki 的改动是否让它变得更好?WikiBench 基于 Harbor 框架运行,环境为固定 commit 的仓库,agent 生成 wiki,verifier 通过 reader agent 回答覆盖类和检索类问题,并用多个 LLM judge 基于事实 rubric 打分。实验显示:不同 harness 和模型在性能、成本和时间上差异显著;wiki 与源码结合使用效果最佳,wiki 更像索引而非替代品,可让 agent 回答更准确且成本更低。