全部文档 / 作者: 阿良｜AI 工作流 / 标签: 长上下文

2 篇

我让蚂蚁百灵的金融模型，和它自己打了 441 轮

作者对蚂蚁百灵发布的金融模型 Ling-3.0-flash-Fin 与其通用基座 Ling-3.0-flash 进行了 441 轮对比实测，使用微软 FY26 Q4 财报和宁德时代 2025 年报等一手公开材料，设计八类任务。结果显示两个模型都能以分析师水准完成建模、口径辨析、抗幻觉等任务，准确率上金融版没有体现出明显优势；唯一显著差距在长篇输出场景，金融版更易'想太多'后返回空白（研报撰写失败率 18.6% vs 0%）。文章还给出反直觉发现：长上下文直投比 RAG 检索更准、更快、更便宜，并坦诚记录了测评过程中的多次自我纠错。

技术 › LLM

阿良｜AI 工作流 2026-09-0319.1 KB 38.6K 141 90

蚂蚁百灵 Ling-3.0 金融模型模型评测长上下文 RAG 投研幻觉静默失败 OpenRouter

16GB 无独显本地部署 Ling-3.0-tiny 实测：21.7 token/s 与推理引擎版本的秘密

作者在一台单通道 16GB 内存、无独显的 Ryzen 5 5600G 台式机上，使用 llama.cpp 官方版部署 Ling-3.0-tiny（Q4KM 量化），实测生成速度 21.70 tok/s，比配置更强的 64GB+3090 机器快近 4 倍。经排查，差异源于推理引擎版本而非硬件。文章还分析了该模型线性注意力架构带来的超低上下文内存开销（约 6.79 KiB/token），总结了思考模式、Windows 编码、线程设置三个实践坑，并给出三步部署教程，证明普通电脑即可流畅本地运行该模型。

技术 › LLM

阿良｜AI 工作流 2026-08-2414.2 KB 71.3K 177 90

本地部署 Ling-3.0-tiny llama.cpp 量化模型内存带宽线性注意力推理引擎长上下文性能测试开源模型