Wiki 知识库

全部文档 / 标签: RLM

6 篇
清除

Harness 是组合泛化器

本文介绍 Alex L. Zhang 与 Omar Khattab 提出的观点:Transformer 不擅长组合泛化,而更好的泛化应主要由 harness 完成。Harness 位于外部世界与神经网络之间,通过 context offloading(上下文卸载)和程序化子 agent 调用两个机制,让每次 LM 调用看到的观察处于训练分布内(LID),把复杂、陌生的问题归约为简单、熟悉的问题。实验基于 Qwen3-30B 的递归语言模型(RLM)显示在长度泛化和跨域策略泛化上远胜裸 Transformer,30B RLM 甚至可逼近 GPT-5.5。作者提醒不要手工硬编码 harness 结构,数据 scaling 仍是最大驱动力,但 harness 决定 scaling 系数。

技术 › Harness Engineering yibie 2026-09-127.1 KB 14.2K 93 76

BestBlogs 早报:架构师 Agent、经济未来与 RLM 长上下文

本期早报精讲三篇文章:架构师 Agent 如何通过领域知识结构解决存量系统中的工程判断问题;Anthropic 经济情景探索器从任务视角分析 AI 对就业和增长的多情景影响;RLM 递归语言模型将长上下文转化为可执行状态,提升复杂任务准确率。速览涵盖 Agent 断点续传、OpenAI 数学争议、Codex 访谈、AI 编程成本、ADK for Kotlin、机器人触觉及 Kimi K3 流式加载等话题。

技术 › Agent ginobefun 2026-09-1022.3 KB 3.7K 3 76

Post-training RLM agents for end-to-end M&A Diligence

Harvey与Baseten合作,为M&A尽职调查构建了递归语言模型(RLM)harness:将整个dataroom(最多80M token)加载进Python REPL,由根代理协调子代理分工审阅文档。在LAB Diligence基准上,该harness使七个模型的平均评分标准通过率提升39.1个百分点。此外,通过强化学习对Qwen3.5-122B-A10B编排模型进行后训练,将通过率从29.9%提升至63.0%。结果表明,任务专用harness内的后训练是文档密集型法律工作的可行路径,团队正在扩展训练GLM-5.3作为根模型。

技术 › LLM Niko 2026-09-0920.6 KB 273.4K 280 78

Prime Agent:自我进化的 RLM 编码智能体

Prime Intellect 推出了开源的编码智能体框架 Prime Agent。该框架基于递归语言模型(RLM)和持续测试工具(Continual Harness)两大核心抽象,突破传统架构限制。RLM 将上下文视为变量,允许模型在持久 IPython 内核中通过代码管理历史和工具;Continual Harness 则使智能体能自主创建、读取、更新和删除自身的提示词、记忆与子智能体。该设计支持跨会话通信、后台运行与状态恢复,能高效处理长周期复杂任务,代表了 AI 智能体向自主进化迈出的重要一步。

技术 › Agent Prime Intellect 2026-08-0824.4 KB 47.5K 462 85

探索 GEPA:基于反思的 LLM 上下文提示优化技术

本文探讨了 GEPA (Genetic-Pareto) 技术,一种旨在解决大语言模型上下文管理被动性的提示词优化器。与运行时的 RLM 不同,GEPA 在推理前操作,通过自然语言反馈和试错学习来改进提示词。文章分析了 GEPA 如何利用 Pareto 前沿保持提示多样性,避免单一最优解,并在多项任务中以更少的 rollout 取得优于 GRPO 和 MIPROv2 的性能。作者提出 GEPA 与 RLM 相结合,代表了从单纯增加上下文长度向主动选择和管理上下文的技术范式转变。

技术 › Agent Quarq 2026-04-2814.3 KB 46.2K 258 70

RLMs are the new reasoning models

本文探讨了递归语言模型作为一种新的推理范式的重要性。RLM 通过将模型自己的提示视为可检查、切片和递归查询的环境,直接结合了推理和工具使用。文章回顾了推理和工具使用的历史发展,从思维链到 ReAct,再到 OpenAI o1 和 Claude 的工具使用。最新研究显示,RLM 在长上下文、记忆和长推理任务中表现出色,克服了传统单次前向传播的局限。

技术 › LLM Raymond Weitekamp 2026-04-2147.3 KB 68K 513 65