全部文档 / 作者: Sydney Runkle / 标签: 模型路由

2 篇

How to Build a Model Router in the Harness

文章介绍 LangChain 如何为开源编码代理 Open SWE 构建模型路由器。作者首先通过 LangSmith 追踪数据分析任务类型与复杂度分布，发现许多任务无需前沿级模型；随后基于 Artificial Analysis 智能指数挑选快速、均衡、高性能三档模型（GLM-5.3-Flash、GPT-5.6 Sol、GPT-6 Astra）；最后在 agent harness 的中间件层实现路由器，由分类模型根据任务标准选择最便宜可胜任的模型。结果显示每线程成本中位数降低 64%，质量无明显变化。文章强调路由决策应置于 harness 中，因其拥有网关所缺乏的任务与领域上下文。

技术 › LLM

Sydney Runkle 2026-10-0221.4 KB 112.7K 324 83

Building a Harness with Jev

本文介绍 TypeSafe AI 发布的新模型 Jev，一种名为 System One 的非传统 LLM 模型。Jev 不生成文本，而是通过 RLCD 强化学习训练，对给定状态快速返回结构化决策（Choice、Score、Noul 三种问题类型）及概率，推理速度最高快 200 倍、成本低至 1/400。文章展示了如何通过 LangChain 的 TypeSafeClassifier 集成 Jev，并给出两大应用场景：模型路由（根据任务复杂度自动选择低成本或高性能模型）和 Auto Mode（对危险工具调用进行分类守护，提升 Agent 可信度）。Jev 适合作为 LLM 的补充，在 Agent 循环中承担快速、低成本的分类决策。

技术 › Agent

Sydney Runkle 2026-09-1811.3 KB 2M 5.6K 84

Jev LLM Agent LangChain System One RLCD 模型路由分类模型 Harness Engineering TypeSafe AI