清华开源 PilotDeck:智能路由的 Agent OS
清华大学开源了名为 PilotDeck 的 Agent 操作系统。其核心亮点在于“智能路由”技术,通过自动判断任务难度来分配模型(如主模型搭配小模型),相比纯 Claude 方案大幅降低了成本($3.15 vs $18.36)并提升了分数。系统具备 WorkSpace 隔离、白盒记忆(可追溯、编辑)及 Always-on 后台持续运行三大功能。
清华大学开源了名为 PilotDeck 的 Agent 操作系统。其核心亮点在于“智能路由”技术,通过自动判断任务难度来分配模型(如主模型搭配小模型),相比纯 Claude 方案大幅降低了成本($3.15 vs $18.36)并提升了分数。系统具备 WorkSpace 隔离、白盒记忆(可追溯、编辑)及 Always-on 后台持续运行三大功能。
推文简明扼要地介绍了PilotDeck的三大核心功能和关键成本对比数据,时效性强且易于阅读,但受限于篇幅,缺乏深度的技术原理解析和具体的落地实操细节。
文章指出当前编码 Agent 在简单决策(如选择加载哪些笔记、任务路由、工具失败处理、测试优先级)上滥用昂贵的前沿大模型,造成成本浪费。作者提出三层架构:Opus 5.5 负责规划、写代码、调试等开放性推理;Jev(TypeSafe 出品,毫秒级响应、输入 $0.042/百万 token、输出免费)负责从固定选项中做小决策并返回概率;Harness 层构建选项、校验概率阈值并在低置信度时回退到 Opus。文章给出四个具体决策点及代码实现:按标题分块并用 Jev 并行评分筛选相关笔记(将 30k token 降至 6k)、任务路由、工具失败处理、测试优先级选择。实测一个功能开发会话成本从 $6.42 降至 $2.00,降低 69%,且架构可作为函数调用插入现有 Agent 循环,无需重写。
文章介绍如何在OpenAI发布Dots常驻Agent和GPT-6 Astra(百万token记忆)后,搭建一个24/7自主运行的AI工作流。核心难题是常驻Agent会高频产生大量简单决策,用前沿模型成本高昂。解决方案是TypeSafe推出的System One模型Jev:它只能输出结构化决策(是/否、选择、评分)并附带置信度,单价仅$0.042/百万token,使百万次决策成本约$42。文章展示了将Jev作为低层决策器、Astra作为高阶思考引擎的组合架构,让独立开发者从写代码转变为定义任务、设限并审核产出的监督者角色。
本文详细介绍如何利用Grok Bot(SpaceXAI的代理产品)以每月30美元的成本运营单人公司,替代传统8人团队的大部分重复性工作。作者提供了完整课程,包括创建公司手册、设置Chief of Staff Bot协调多个专业机器人(研究、内容、销售、支持、财务、开发),并建立审批规则确保安全。核心方法是将决策权保留给人类,将重复性任务分配给AI代理,通过每日和每周节奏管理整个公司,同时控制成本在预算内。
本文介绍如何通过'循环工程'降低 Claude 自动化的 token 开销:将队列检查、重复判断等高频决策从主对话中剥离,交由专用代码路径和 TypeSafe AI 的决策模型 Jev 处理。Jev 提供 Choice、Noul、Score 三种类型化问题原语,返回带概率的结构化答案,成本低至每百万输入 token $0.042。文章以 issue 分类过滤为例,给出完整的 Python SDK 实战代码,展示如何构建可检查、可扩展的任务路由过滤器,让 Claude 专注于实现工作,应用代码控制任务流转。
文章介绍 LangChain 如何为开源编码代理 Open SWE 构建模型路由器。作者首先通过 LangSmith 追踪数据分析任务类型与复杂度分布,发现许多任务无需前沿级模型;随后基于 Artificial Analysis 智能指数挑选快速、均衡、高性能三档模型(GLM-5.3-Flash、GPT-5.6 Sol、GPT-6 Astra);最后在 agent harness 的中间件层实现路由器,由分类模型根据任务标准选择最便宜可胜任的模型。结果显示每线程成本中位数降低 64%,质量无明显变化。文章强调路由决策应置于 harness 中,因其拥有网关所缺乏的任务与领域上下文。
作者针对 Codex 账单越来越贵的问题,利用 TypeSafe AI 的 Jev 模型(只做带概率的判断、成本极低)搭建了一个外部模型路由器 HippoRoute-Jev-Codex,仅在线程首请求、新用户轮次、压缩检查点、子 agent 首请求四个缓存重建时机选模型,其余工具循环沿用钉住的模型,避免打掉 prompt 缓存。整个项目由豆包工作通过计划模式和目标模式从零完成,作者全程仅操作四次、未看一行代码,最终 76 个测试全通过并自行揪出 3 个 bug。实测机械任务省 95.4%,子 agent 场景省 79.7%,整体省 44.8%,且任务通过率无差别。
本文介绍 TypeSafe AI 推出的 Jev 模型,它专为校准决策设计,输出概率而非文本。Jev 针对传统 LLM 过度自信、成本高、速度慢的问题,通过三种问题类型(Choice、Noul、Score)返回带置信度的概率结果,开发者可基于置信度阈值设置自动化护栏,实现无人值守运行。作者结合 treg 数据服务,展示了 Jev 在 GTM 自动化中的实战应用,包括欺诈检测与注册用户资格审核(每日 236 个注册仅花费约 $1.21)、以及购买信号分类等场景,并分享了编写评分规则(rubrics)而非传统 prompt 的使用技巧,成本远低于通用聊天模型。
文章分析了 TypeSafe 发布的新模型 Jev——一种只能做分类、评分和路由决策、不能生成文本的'System One'模型。Jev 比通用 LLM 快 40-200 倍、便宜 40-400 倍,通过 RLCD 训练方法实现零样本概率判断。早期独立测试显示其准确率接近 GPT-5.6 等大模型,垃圾邮件分类甚至可媲美有标注训练的分类器。代价是失去了解释能力,无法说明判断理由。作者认为这可能改变 AI 应用架构:用 Jev 做大规模廉价监控评估,用 LLM 判官处理少量样本以获取改进方向信号。
Artie 团队(17人)分享了如何将 Hermes——NousResearch 的开源 AI agent harness——部署为全团队共享的 AI 助手。文章讲述了从工程师个人 WhatsApp 使用的起步,到选择 Hermes 而非 OpenClaw 并加入护栏的决策;用每年 60 美元的 Hetzner 物理服务器承载全部运行。团队为每个部门设计了独立 profile:工程(Plan 分派任务、Code 执行开 PR)、销售、设计、BizOps 等,并强调人类始终在环节中审核。Skills 以代码形式版本化进 Git 仓库,严控数量以省 token。受人类 REM 睡眠启发,Hermes 每晚'做梦'复盘当日工作,将有价值内容晋升到长期记忆。
文章介绍 Pace 公司如何在其保险文档提取 Agent 中实现自我改进。系统通过三个核心机制优化:1) 子代理委派——基于历史运行构建字段关系图,优化 fanout 分组,减少重复工作,降低 19% 成本和 16% 延迟;2) 模型路由——利用历史 trace 学习各子代理任务难度,将子任务路由到合适模型,部分场景成本降低 68% 且无精度损失;3) 上下文优化——通过 Review Agent 诊断错误根因、Proposer Agent 提出经验证的上下文或 Harness 修复,使每流程提取错误减少 75%。核心论点是随任务积累,系统可持续逼近最优的委派、模型与上下文组合。
Fireworks 发布的 DeepSeek-V4.1-Flash 在 DeepSWE 基准测试中以每任务 $0.43 的成本达到 GPT-6 Astra 级别的编码准确率,价格仅为 1/15。该模型采用 552B MoE 编码器-解码器分离激活架构(输入 8B、输出 16B 活跃参数),配合 KV Cache 优化(HBM 占用降至 1/4),在 Terminal-Bench 2.1 上以 12x 更低成本逼近 Astra。但在 HLE 学术推理上落后于 Astra;oracle 路由测试显示两模型组合可超越 Astra 单模型表现,凸显多模型路由系统的价值。
本文介绍如何在 Google Cloud 的 Gemini Enterprise Agent Platform 上同时配置 Anthropic Claude Fable 5.1 与 Google Gemini 3.8 Flash 两款模型,并通过任务路由优化 token 成本(tokenomics)。作者指出单一模型路由全部任务是错误的:深度规划模型处理日常事务会浪费成本,而快速模型处理不可逆的复杂任务风险很大。文章详细演示了启用 Claude Fable 5.1 所需的数据共享配置(setPublisherModelConfig API)、Gemini 3.8 Flash 的调用方式,并建议先对常规任务做基准测试,以快速模型作为一线协调者、深度规划模型按需升级处理,从而大幅提升任务 ROI。