Wiki 知识库

全部文档 / 标签: 交叉验证

2 篇
清除

一次独立复现:CLM 的 DeepSWE 数字能跑出来,但它不是平均值

作者对开源项目 CLM(Contrastive Language Models)声称的 DeepSWE 81.6% SOTA 成绩进行了独立复现。通过三重验证(常数分数测试、用作者自带分数复算、checkpoint 哈希校验),确认 fold1 的 81.579% 可精确复现。但深入分析发现,该项目采用三折交叉验证,公布的数字是最优折,三折平均仅为 78.66%,跨度达 19 个百分点,fold2 甚至低于随机基线(主要因小样本高方差)。文章还验证了 CLM 训练成本低(纯 CPU 分钟级)、编码器可在 macOS 上运行、预训练头在 1000 条数据以内有效等结论,并指出 README 中复现命令路径失效、评估脚本未公开等问题。

技术 › LLM yibie 2026-09-2710.7 KB 1.2K 2 86

不迷信结论,只相信证据!四步验伪法教你拆穿"假装读过"财报的AI

文章指出炒股者多依赖二手信息,而AI读财报虽有价值,却存在编造数字、跨表算错、盲目自信、中途改口径崩溃等问题。作者以中兴通讯2024/2025年报为测试案例,用Apodex 1.1验证了一套四步验伪法:问网上搜不到的问题、强制列出数据出处、跑到一半改口径、手动核对至少一个数。测试显示AI能发现负少数股东损益异常并交叉验证数据,但作者仍抓到一处补充说明中约6%利润抬升的错误概括(实际两年相差一个数量级)。结论强调每个带百分比的句子都要核对,并介绍了FrontierAgent开源harness及相关工具。

技术 › Agent 得否 2026-09-0912.1 KB 19K 91 83