作者对蚂蚁百灵发布的金融模型 Ling-3.0-flash-Fin 与其通用基座 Ling-3.0-flash 进行了 441 轮对比实测，使用微软 FY26 Q4 财报和宁德时代 2025 年报等一手公开材料，设计八类任务。结果显示两个模型都能以分析师水准完成建模、口径辨析、抗幻觉等任务，准确率上金融版没有体现出明显优势；唯一显著差距在长篇输出场景，金融版更易'想太多'后返回空白（研报撰写失败率 18.6% vs 0%）。文章还给出反直觉发现：长上下文直投比 RAG 检索更准、更快、更便宜，并坦诚记录了测评过程中的多次自我纠错。
作者用四份宇树科技公开申报材料构建了10万字符的证据包，对蚂蚁百灵金融模型 Ling-3.0-flash-Fin 进行三轮相同条件实测。前两轮均达 32/33 字段正确、19/20 整项正确，且对无答案问题不硬编；第三轮内容大体正确，却因 JSON 结构错误导致程序无法解析，形成'API 返回 3/3，严格结构化交付 2/3'的结果。文章指出模型进入真实金融工作流后，关键不再是答对问题，而是稳定交付下游可用的结构化结果，建议采用 JSON Schema 校验、失败重试与人工复核的生产路径，认为该模型适合作为金融 Agent 的中间推理层，但尚不能无人值守接管工作流。
MemOS 团队发布全球首个“记忆原生”大模型 MemT-1.0，将记忆能力直接训练进模型权重，取代 RAG、Mem0 等外挂记忆方案。其思路是不改底座、参数冻结，仅在部分层并联约 1.05 亿参数的记忆块，通过蒸馏训练让模型自学“什么该记、什么该忘、怎么取用”，优化目标从检索命中率改为任务答对率。交付物包括通用模型权重（会记笔记的大脑）和用户专属记忆状态文件（仅 40 MiB 的笔记本）。数据显示其 40 MiB 记忆答题成功率 69.73%，略高于全量上下文的 69.13%，存储缩小 66 倍、首字响应快 4.19 倍。已在 Hugging Face 和 GitHub 开源，被视为开启模型“在使用中变强”的第四条技术路线。
本文介绍 Hamel Husain 主编的演讲合集《Beyond Naive RAG》，汇集 9 位一线检索专家的共识：朴素 RAG（切块+单向量+余弦检索）已失效，但检索增强生成本身远未死亡。全书论证三条主线：长上下文不能替代检索（Context Rot 证明上下文越长模型越不可靠）；评估先于优化（公开基准已污染，须建自有黄金数据集）；复杂性不是目的（慎用图数据库等过度工程）。涵盖 ColBERT 后期交互、推理增强检索（Promptriever、Rank1）、多重表示与智能路由、FreshStack 评估指标等前沿方法，提出'评估驱动+多表示+推理增强+克制架构'的实践观。
Pocket FM 创始人 Rohan Nayak 分享其 AI 写作系统 Sherpa 的构建历程。通用 LLM 因训练目标（逻辑推理、快速给答案）与创意写作需求（张力、情感、悬念、节奏变化）相悖而写不好故事，且缺乏清晰的强化学习成功信号。微调现成模型的尝试均告失败后，团队自研 Sherpa harness，由规划器、叙事世界模型（NWM，维护结构化故事状态与记忆）和散文引擎三大组件构成，并利用 Pocket FM 亿级用户的收听数据做强化学习，用户留存与完听率成为写作质量的天然反馈信号。盲测中 Sherpa 在 65.6%-97.1% 的配对比较中胜出，NWM 多跳检索准确率达 86.7%，成本约为同类方案的 1/21。
本文实测了 TypeSafe AI 发布的不生成文本的 AI 模型 Jev 在 RAG 检索流程中的效果。作者在重排、回答判断、检索前置门卫三个环节插入 Jev 进行验证：重排方面，Jev 以八分之一的成本达到接近 Cohere Rerank 的精度；在调用 LLM 之前用 Jev 判断「无法回答」，响应速度提升 5.6 倍，成本降至二十七分之一；在检索之前拦掉范围外提问，速度提升 7.4 倍，成本降至七十五分之一。此外，Jev 还能一次请求同时完成重排和回答判断。结论是用 Jev 改善 RAG 速度与成本可行，但需慎重设定阈值，避免误拦可回答问题。
xAI 于 9 月 21 日发布 Grok 4.7，主打长任务能力：更大基础模型、更长强化学习训练、支持 50 万 token 上下文。文章分析官方与第三方基准成绩，指出其在编程等部分任务进步明显但并非全面领先，需结合自身需求看待榜单。价格方面，标准 API 单价较低，但长上下文（20 万 token 以上）计费翻倍、Fast 版本仅限特定平台，且模型实际 token 消耗可能很高，单价低不等于总价低。作者建议用真实工作任务测试模型，关注交付质量与总成本，而非被亮眼演示或单价吸引。
文章介绍了发布即爆火的新模型 Jev（TypeSafe 公司出品），它不生成文本，只做判断：路由、分类、打分、审核。相比大模型，它判断速度快 40-200 倍（0.1 秒级），成本便宜约 400 倍，且因输出限定在预定义选项内而不存在幻觉空间。创始人 Diogo Almeida 是前 OpenAI 研究员。文章给出了三条免费或低成本使用方式（OpenJev、官方 waitlist、OpenRouter），并冷静指出官方数据的局限：444 倍提升是评测上限，第三方实测准确率约 68%。Jev 定位为给大模型打配角的 System One 模型，适合 Agent 场景中的高频小判断。
本文是翻译整理的完整小模型微调指南（原作者Rahul），主张用1.5B参数模型配合200-500条高质量样本微调，即可在特定任务上超越通用前沿大模型。文章涵盖微调的正确认知（微调非提升智能而是稳定窄任务）、三个基线建立、选择Qwen2.5-1.5B等小基座模型、数据权利确认、PDF/OCR文本抽取与清洗、按公司切分数据集、QLoRA训练超参配置、幻觉数字检测评测、vLLM部署及监控重训策略。强调数据合规和评测纪律是真正值钱的部分，附完整可运行代码。
本文介绍了 AI 圈新火的模型 Jev——一个不做文本生成、只返回带概率判断的决策模型。文章讲清了它的三种用法（是非判断、选项选择、打分），提供了四种 30 分钟内可上手的接入方式（官方 Skill、Vercel、OpenRouter、SDK），并整理了 8 个可直接复用的真实案例：7 秒订机票、代码审查、工单分流、简历初筛、语义搜索、AI Agent 路由、RAG 重排、动态 UI 拼装等。还总结了 5 个反直觉要点（不写字、零幻觉指格式而非正确性、不会拒绝等）、官方自曝的雷区（不会算术、不懂日期先后、易被提示词注入），以及不适合使用的场景。
TypeSafe AI 于 2026 年 9 月发布的 Jev 是一个只做选择题的 AI 模型（单选、打分、是/否），响应 0.07–0.5 秒、输入价格极低、输出免费。作者梳理了官方数据及 Hacker News 上的质疑，指出“Jev 取代大模型”是伪命题，其合理定位是高频、低价地执行小判断。文章按用途分类整理了已真实跑通的案例：为 AI Agent 当决策器、海量数据分类、高低置信度分流混合架构、实时反应界面和仿真实验，并列举了已接入的商业产品。作者还分享了自己四次失败的集成尝试与两轮实测结论，强调概率校准的重要性。
作者分享了使用新模型 Jev 对《人民日报》新闻进行湖北相关元素分类的实测体验。此前该项目一直使用 Gemini Flash Lite 系列，积累约 2.4 万条数据。通过 OpenRouter 上线 Jev 后用相同提示词对比测试：速度上单篇耗时从 3 秒降至 0.35 秒，提升近 10 倍；质量上与 Flash Lite 仅 15% 判断不一致，且差异多源于人名知识库差异，实际正确率约 95%；价格上处理 5 千条数据 30M Token 仅花费 1 美元。作者认为 Jev 代表的分类器大模型在分类场景下实现了速度/质量/价格的不可能三角，极具前景，并计划连夜用于优化生产项目。
本文整理了 Hamel Husain 的 Maven 课程「AI Product Engineering」13 场讲座（共 9.5 小时）的笔记精华，按 Evals、Context、Systems 三大主题组织。核心结论是 AI 产品优化的顺序：先优化检索与上下文（投入产出比最高），再改进系统与执行框架，最后才考虑 post-training。Evals 贯穿一切改进，是判断优化效果的前提。文章涵盖数据 Agent 评测、模型级联降本、自动化错误分析、多向量检索、嵌入模型优化、OCR 选型、推理延迟调试、开源模型经济学等具体实践，强调评测环境应反映生产环境的真实脏乱，模型推理能力往往远超其所得的检索质量。
