本文介绍 Hamel Husain 主编的演讲合集《Beyond Naive RAG》，汇集 9 位一线检索专家的共识：朴素 RAG（切块+单向量+余弦检索）已失效，但检索增强生成本身远未死亡。全书论证三条主线：长上下文不能替代检索（Context Rot 证明上下文越长模型越不可靠）；评估先于优化（公开基准已污染，须建自有黄金数据集）；复杂性不是目的（慎用图数据库等过度工程）。涵盖 ColBERT 后期交互、推理增强检索（Promptriever、Rank1）、多重表示与智能路由、FreshStack 评估指标等前沿方法，提出'评估驱动+多表示+推理增强+克制架构'的实践观。
本文介绍 Alex L. Zhang 与 Omar Khattab 提出的观点：Transformer 不擅长组合泛化，而更好的泛化应主要由 harness 完成。Harness 位于外部世界与神经网络之间，通过 context offloading（上下文卸载）和程序化子 agent 调用两个机制，让每次 LM 调用看到的观察处于训练分布内（LID），把复杂、陌生的问题归约为简单、熟悉的问题。实验基于 Qwen3-30B 的递归语言模型（RLM）显示在长度泛化和跨域策略泛化上远胜裸 Transformer，30B RLM 甚至可逼近 GPT-5.5。作者提醒不要手工硬编码 harness 结构，数据 scaling 仍是最大驱动力，但 harness 决定 scaling 系数。
本文深入探讨了 Claude Code 等智能体工具在长对话中性能下降的现象。作者将其归因于“上下文腐烂”，分为无法避免的内在腐烂（模型架构限制）和可管理的内容腐烂（过时信息积累）。文章提供了具体的治理实践，包括前期策展、保持上下文清洁、及时重置以及使用 git 树结构管理会话，以维持工具的敏锐度。
文章介绍了一种称为递归语言模型（RLMs）的新方案，旨在解决大语言模型在处理超长上下文时出现的“上下文腐烂”问题。RLMs 不再将上下文限制在单一 Prompt 中，而是将其视为外部数据，通过赋予模型窥探、正则匹配、分区和递归调用等工具，让模型自主决定如何分解和处理任务。这种方法不仅消除了上下文长度对推理能力的影响，还提高了准确性和成本效率。
