Wiki 知识库

全部文档 / 标签: 架构设计

190 篇
清除

AI 早报:Anthropic 交付架构、LangChain 设计智能体与 Ai2 新颖性裁判研究

本期早报围绕智能体系统建设展开:一是 Anthropic 负责人解释 Claude 交付架构,将会话记录、运行框架与沙箱执行环境分离,使失败恢复不影响工作连续性;二是 LangChain 分享设计智能体的实践,将设计师的审美判断沉淀为技能与知识库,中位费用从 8 美元降至 0.50 美元;三是 Ai2 研究检验 LLM 判断研究想法新颖性的可靠性,发现提示词变化可导致准确率剧烈波动。此外还涵盖 Google A2UI 推理格式、Optiver 模型接入平台、小红书 AllSpark 数据管线及 K2 Lab 垂直 AI 产品等内容。

技术 › LLM ginobefun 2026-10-2828.5 KB 641 5 84

如何构建成本降低 80% 的编码 Agent:Jev + Opus 5.5 完整架构

文章指出当前编码 Agent 在简单决策(如选择加载哪些笔记、任务路由、工具失败处理、测试优先级)上滥用昂贵的前沿大模型,造成成本浪费。作者提出三层架构:Opus 5.5 负责规划、写代码、调试等开放性推理;Jev(TypeSafe 出品,毫秒级响应、输入 $0.042/百万 token、输出免费)负责从固定选项中做小决策并返回概率;Harness 层构建选项、校验概率阈值并在低置信度时回退到 Opus。文章给出四个具体决策点及代码实现:按标题分块并用 Jev 并行评分筛选相关笔记(将 30k token 降至 6k)、任务路由、工具失败处理、测试优先级选择。实测一个功能开发会话成本从 $6.42 降至 $2.00,降低 69%,且架构可作为函数调用插入现有 Agent 循环,无需重写。

技术 › Agent CyrilXBT 2026-10-2626.0 KB 515.7K 385 87

OpenAI Dots: 7x24小时运行GPT-6 Astra,成为只做监督的独立开发者完整指南

文章介绍如何在OpenAI发布Dots常驻Agent和GPT-6 Astra(百万token记忆)后,搭建一个24/7自主运行的AI工作流。核心难题是常驻Agent会高频产生大量简单决策,用前沿模型成本高昂。解决方案是TypeSafe推出的System One模型Jev:它只能输出结构化决策(是/否、选择、评分)并附带置信度,单价仅$0.042/百万token,使百万次决策成本约$42。文章展示了将Jev作为低层决策器、Astra作为高阶思考引擎的组合架构,让独立开发者从写代码转变为定义任务、设限并审核产出的监督者角色。

技术 › Agent Noisy 2026-10-2616.3 KB 554.5K 270 81

从单兵作战到舰队协同:我的 Grok Bot 架构全拆解

作者分享了自己搭建的 Grok Bot 舰队体系,解决单兵使用 AI 时多设备割裂、记忆难沉淀、多模型协调成本高三大痛点。架构分为四层技术底座:核心层以总控「乐乐大王」调度四端执行节点;同步层用 Obsidian + GitHub 私库实现统一知识底座;额度层通过分流机制将重负载任务派给独立计费的工程师 Bot;运维层借助开机自检与 Wake on Done 实现自动化。业务上采用 1 个总控 + 6 个分组共 29 个 Bot 的精细化分工,覆盖研发、情报、自媒体、内容创作与生活辅助,形成完整的任务执行与知识沉淀闭环。

技术 › Agent 木渡川 2026-10-2111.9 KB 20.1K 80 72

从 Pi Durable 看 Harness 的演进

文章以 Pi coding agent 的 Durable 版本为切入点,拆解 Harness 架构的演进。传统 Harness 将持久化系统、agent loop 和执行环境耦合在同一个 Node.js 进程中并强依赖 VM,而 Durable 将持久化外置为 SQLite 存储、执行环境与操作系统解耦,并实现无损状态恢复,使 agent 可部署在 serverless 等更灵活的计算节点上。文章还介绍了 pi 的 MCP 原生支持、codemode(通过 QuickJS 批量调度工具)以及 server/client/protocol 分离等变化,最后设计了一套可扩展的长期 Harness 架构,目标是硬件资源消耗降低一个数量级。

技术 › Agent Ludamn 2026-10-107.6 KB 16.5K 138 77

How to Build a Multi-Model Team of AI Agents in 2026

本文介绍 2026 年构建多模型 AI Agent 团队的完整方法。作者指出使用单一模型会导致高成本低效、专业能力受限以及单供应商故障/盲点风险,主张按任务步骤选择合适模型。文章梳理了 2026 年 9 月的主流模型阵容(Claude Opus/Sonnet/Haiku/Fable 5.1、GPT-6 Astra、TypeSafe Jev)及定价,提出五层架构:路由器、编排器、专家模型、评审者(critic)和纯代码层,并讲解如何先对工作负载分类(决策、简单生成、真实工作、难题),再为每层选择最划算的模型。文中附有统一封装多供应商 API 的示例代码,涵盖 effort 参数与 thinking block 处理细节。

技术 › Agent Khairallah AL-Awady 2026-10-1020.4 KB 50.3K 119 86

Grok Bot 可能终结应用切换时代

文章指出,现代生产力的最大瓶颈不是思考慢,而是工作碎片化地在多个应用间切换,决策只需三十秒,而协调却要二十分钟。Grok Bot 类持久化 Agent 的价值在于以任务结果为界面,让应用成为实现细节,消除工具间的转换成本。作者阐述了以职位描述定义工作流、持久化环境保存上下文、将流程固化为可复用例程、从人类行为中学习自动化等理念,并强调 Agent 架构应分层:生成模型负责创造内容,快速决策层负责调度,确定性代码负责规则约束,从而构建真正自主的工作系统。

技术 › Agent kvro 2026-10-0822.6 KB 79.6K 69 66

卡兹克零基础靠 AI 做的 AIHot,我作为程序员认真读了一遍源码

作者以程序员视角深入分析了数字生命卡兹克零编程基础、纯靠 AI 构建的开源项目 AIHot(AI 热点新闻聚合网站)。文章详细解读了项目的技术选型与架构:TypeScript 全栈 monorepo、React Router SSR 前端、Fastify API、pg-boss 任务队列,以及 RSS、网页爬虫、JSON 接口、推特、微信公众号等六种信源采集方式。重点剖析了其基于大模型的文章处理流程:预筛、五维度加权打分、摘要生成、向量聚簇归组。作者由此引申讨论 AI 时代软件工程可维护性标准的转变:程序员注意力从代码实现转向架构设计与约束,类比铝从贵金属到飞机材料的价值观变迁。

技术 › LLM 独立开花卓富贵 2026-10-0515.8 KB 2.9K 5 79

Designing MCP Gateway: Uber 的 MCP 管理平台

Uber 推出 MCP Gateway,作为统一管理 AI Agent 与后端服务 MCP 交互的核心微服务平台。文章介绍了其架构:控制平面(MCP Registry)作为工具目录的唯一事实来源,数据平面(Proxy Gateway)负责将 MCP 协议请求翻译为 HTTP、gRPC 或 TChannel 并路由到后端服务。通过基于 Cadence 的 AutoCrawler 自动扫描 IDL 注册表和原生 MCP 服务器心跳,自动发现、生成并注册 MCP 工具,同时支持 Jira、Google 等第三方集成。该平台已托管 800 多个 MCP 服务器和 5000 多个工具,实现了安全、可扩展、统一的 Agent 生态治理。

技术 › Agent Uber Engineering 2026-10-0316.3 KB 993.3K 3.1K 80

开源 Company Brain:多玩家 Agent Harness 的架构设计

Supermemory 团队宣布开源其 Company Brain 产品,并详细介绍了背后的多玩家 Agent Harness 设计。该系统构建于 Cloudflare Agents SDK 之上,核心是一个以组织 ID 为键的 Durable Object,负责回合生命周期、状态管理、权限策略、记忆边界和工具调用。文章重点阐述了如何设计一个'像队友而非机器人'的 Agent:包括 Slack 事件的分类路由、基于置信度模型而非二元判断的主动性决策、审批流程、steering 处理、运行时恢复等。作者还解释了停止该产品的原因——团队希望专注于构建世界领先的 Agent 记忆 API。

技术 › Agent Dhravya Shah 2026-09-2627.9 KB 521.5K 1.6K 78

在安全边界内运行私有本地 AI 的四种架构

文章指出企业 AI 部署并非只有'公有 API 或自建推理平台'的二选一,私有 AI 实际是一个从客户端设备到完全物理隔离的连续谱系。作者提出四种隔离层级:1) 使用 LiteRT、Gemini Nano 等在移动 NPU 和浏览器上进行零外泄客户端推理;2) 通过 Confidential Computing(机密虚拟机与 NVIDIA H100 TEE)对云端 CPU/GPU 内存硬件级加密;3) 在私有 VPC 内用 GKE + vLLM/JetStream 自托管开源模型权重,实现权重与日志的完全掌控;4) 使用 Google Distributed Cloud Air-Gapped 为主权工作负载提供物理断网部署。工程关键在于按威胁模型和延迟预算匹配硬件边界。

技术 › 网络安全 Sergio Villani 2026-09-2612.8 KB 30.4K 208 84

Context Infrastructure: Architectural Lessons From the Data Lakehouse

文章提出上下文基础设施正出现一种新模式:尽可能保存原始历史数据(对话、工具调用、事件、Agent 工作记录),之后再按需构建摘要、知识图谱、嵌入等派生视图。这一架构借鉴了数据湖屋(Lakehouse)的经验,如 Databricks 的青铜/白银/黄金分层架构。作者对比了写入时即做压缩决策的内存系统(如 CrewAI),指出其风险在于丢失未来可能重要的信息;并介绍了 CortexDB、Statewave、Supermemory、Zep 等产品的实践:以不可变事件为事实来源,将记忆作为可重建的视图。文章最后提醒需防范上下文沼泽,建议写侧优化保存、读侧优化实用性。

技术 › Agent Josh Rosen 2026-09-1612.2 KB 17.1K 179 79

Cursor + Grok Bot + pstack:教你用原型和证据,把方案先跑一遍

本文深度拆解 Lauren 的 pstack 第二篇,探讨如何让 AI Coding Agent 在写代码前正确理解问题。文章介绍了 /how、/why、/teach、/recall 等上下文工具的用法,强调用代码而非文档来规划:先写使用教程倒推架构,通过低成本原型比较不同方案,用 /architect 让多模型并行设计并交叉评审,以及在多阶段计划中要求每一步都以可复查的证据结束。作者认为,Agent 可能比人更快更强,但最终是否接受方案仍需人来判断,验证应从开发前就开始参与决策。

技术 › Agent 蓝哥AI 2026-09-1528.8 KB 20.7K 84 81

DSH Desktop 桌面端架构解析

作者分析了 DSH Desktop 桌面端的整体架构:Renderer 进程负责显示 Harness WebUI,Main 进程负责窗口创建、Harness 启动、更新与配置修复,两者通过 Preload 和 IPC 通信。聊天与任务执行走独立的本地 HTTP/RPC 通道,连接 Harness Runtime 独立进程(macOS 用 Electron UtilityProcess,Windows 用自带 Node.js),仅监听本地回环随机端口。Harness Runtime 基于 Cordis 插件组合,包含 Agent Loop、Tool Registry、Session Service 和模型适配器,并扩展了 Preset 导入导出、插件市场和 PPT 生成等能力。本地数据与安装目录分离便于升级保留配置,模型 API、更新和手机接入(Mobile Bridge)等外部服务各自独立。

深度拆解 OpenAI 自研推理芯片 Jalapeño:英伟达 GPU 的推理瓶颈与软硬协同解法

本文深度拆解 OpenAI 自研推理芯片 Jalapeño 的设计哲学。首先指出英伟达 GPU 在推理场景的三大缺陷:访存密集型任务下 SIMT 掩盖延迟失效、UMA 与庞大 L2 Cache 导致高延迟、全局同步与网络 I/O 瓶颈。接着分析 Jalapeño 的激进重构:砍掉全局 L2 Cache 采用去中心化 Core Slice 架构、在 SM 内塞入超标量控制核心、实现网络直达核心缓存。最后提出行业三大结论:别盲目搞 CUDA 兼容、训练与推理算力格局将两极分化、AI 设计芯片的闭环正在到来。

技术 › LLM lifcc 2026-09-096.0 KB 2K 2 72

8 Software Books AI Has Made More Relevant

作者探讨了在AI能大量生成代码的时代,哪些软件工程书籍反而变得更加重要。文章推荐了八本书,覆盖从产品决策到交付的核心领域:《Escaping the Build Trap》强调构建正确的产品、《Specification by Example》统一需求理解、《Learning Domain-Driven Design》明确业务含义、《Software Architecture: The Hard Parts》权衡架构取舍、《Designing Data-Intensive Applications》理解数据保证、《Threat Modeling》识别安全威胁、《Release It!》应对生产故障、《Accelerate》改进交付流程。核心观点是:委派给编码Agent的实现越多,识别其决策是否合理的能力就越有价值。

技术 › 编程语言 Bilgin Ibryam 2026-09-079.3 KB 26.7K 342 79

Agent Harness 不是 while 循环:omp²《Harness Playbook》深度解读

本文深度解读 omp 作者 Can Bölük 的《Harness Playbook》,提出 Agent Harness 是系统软件而非简单循环的核心命题。文章系统阐述 omp² 的架构蓝图:以唯一权威会话(DOM 树)解决 rewind/fork/resume 的状态一致性;沙箱只执行不决策;Convar 管值、Director 栈管行为的控制面设计;将模型兼容性作为结构化知识的推理层;精简工具名册以提升性能的深度内建工具;基于 RichText 流原语与 TLA+ 验证的渲染层;以及 Rust 核心 + Python 扩展的技术栈选择。文章认为该文将 Harness 工程提升为可推理的学科,同时指出其激进设计尚待落地验证。

技术 › Harness Engineering meng shao 2026-09-0517.1 KB 44.5K 248 86

AI-Powered Data Warehouses: Architectural Lessons for Every AI Product

文章探讨了 Snowflake、Databricks、ClickHouse、BigQuery、MotherDuck 等数据仓库平台在 AI 时代的架构演进,总结了七大架构经验:推理正在成为数据库算子;数据转换可通过 LLM 推断并物化新事实;语义层正成为 Agent 的基础设施;Agent 的部署位置是重要的架构决策;数据仓库正成为 Agent 工作的执行环境;Agent 是一种新的数据库工作负载,其迭代、突发、高并发的访问模式要求重新设计数据库系统。这些模式为所有 AI 产品的架构设计提供了借鉴。

技术 › 数据库 Josh Rosen 2026-09-0310.2 KB 76.4K 239 76

构建你的 AI FDE 能力入门篇:0x08 一个 AI 中台应该具备哪些能力?

文章系统介绍了 Palantir AIP(AI 中台)的端到端架构,阐述其如何将生成式 AI 安全接入企业运营。核心是围绕 Ontology 构建完整闭环,涵盖十二类能力:安全的大模型接入、端到端可观测性、上下文工程、Ontology 系统、向量与计算服务、安全治理、智能体生命周期管理、运营自动化、开发环境、人机协同应用、打包发布部署以及企业自动化。文章强调 AI 中台的重点不是单独调用模型,而是建立从模型接入到产品交付的完整体系,并让安全、治理与可观测性贯穿始终。

技术 › Agent Mens@cc.codesome.ai 2026-09-034.0 KB 7.2K 56 63

AI 全部生成代码时代如何保证产品代码可维护不腐化

作者以 Mole 项目(11 万行 Swift、3347 个 XCTest)为例,从产品工程师视角分享 AI 全量生成代码时代保持代码可维护性的实践经验:由工程师主导架构设计与文档沉淀;重视覆盖边界场景的单测,坚持 AI 写的代码由 AI 测试;修 Bug 时补充回归测试并把原因写入规则;用按模块拆分的 Rules 和 Skills 记录功能边界与历史决策;坚持少做无用功能避免维护成本腐化;充分利用 GitHub Actions 与 CI 兜底验证,设置流程卡点让 AI 自动化验证,从而让代码长期持续迭代、清晰可扩展。

技术 › Claude Code Tw93 2026-08-318.2 KB 84

把千万级 Google Ads 标题的模糊查询从 6 秒压到 0.6 秒,我做了什么?

作者为 SiteData 工具做性能优化:千万级 Google Ads 广告标题的模糊查询原本用 MySQL 需约 6 秒,导致广告竞争信号功能只能手动触发。作者对比 Elasticsearch 与 Manticore Search 后,选择轻量的 Manticore 作为搜索层,MySQL 继续承担业务数据。迁移后查询压缩至约 0.6 秒,压测显示平均耗时 170-180ms、零错误,且资源占用极低(8GB 内存仅用 662MB)。文章总结了三点经验:慢功能可能是性能问题而非价值问题;主数据库不应包揽全部职责;小团队选型应以成本和务实为导向。

技术 › 数据库 饭特稀 | Fentix 2026-08-2712.2 KB 4.3K 8 76

10张图详细拆解DeepSeek Harness设计架构

作者用10张图系统拆解DeepSeek Harness(DSH)的架构设计。DSH启动经历两次装配:先通过Profile、Bundle和Patch构建公共Host(含Session、模型注册、工具系统、Agent Loop和Web服务),再依据Preset为会话装配具体Agent。底层基于Cordis插件框架,通过provide/inject服务依赖图和事件机制将独立插件组装成完整系统。文章还详解了Agent Loop的Turn/Step运行机制、SessionEvent事件日志的持久化设计,以及如何通过自定义Preset快速构建业务Agent。

技术 › Agent 轩辕之风 2026-08-2517.4 KB 8.5K 69 84

为什么 AI Agent 正在逐步“去 MCP 化”,重新拥抱 CLI?

文章分析了 AI Agent 领域从依赖 MCP 回归 CLI 的趋势。MCP 曾被视为 Agent 连接外部工具的标准方案,但在本地开发和工程自动化场景中,CLI 兞现成太、节省上下文、易于调试复现、具备 Unix 管道组合能力且更接近真实执行环境。作者认为 MCP 并不会消失,二者正在重新分工:CLI 成为 Agent 的本地执行层,MCP 回到标准化集成层,用于远程能力、结构化发现和跨平台复用。

技术 › Agent Smartpig 2026-08-233.9 KB 14.5K 73 70

从 Runtime实验走向工程闭环

文章深入解析了DeepSeek Harness(DSH)的架构与工程价值,指出其通过细粒度可替换性和执行历史记录解决了Agent维护难题。作者对比了Cordis论文与自我进化研究,强调DSH目前仅实现了Runtime实验原语,尚未达到工程闭环。要从临时挂载走向生产系统,仍需构建可信评测、发布链路、强隔离及责任归属四大基础设施。

DeepSeek Harness:把边界写成契约

本文深入解析了DeepSeek Harness的设计哲学,强调“事实有据,权限有度”的核心理念。文章通过多个实例展示了该框架如何将Agent状态管理、工具调用、子代理运行等关键环节转化为可验证的运行时契约,确保每个重要事实都有明确的拥有者,并通过原子比较、权限控制等机制避免状态不一致和越权操作。作者认为,DeepSeek Harness的精华在于其架构设计原则:为每种能力明确truth owner、authority gate、durable record、model projection和recovery rule,从而将隐性边界转化为可测试的契约。

技术 › Harness Engineering Dongxi 东锡 NLP 2026-08-164.9 KB 28.2K 40 71

Graph Engineering: Stop Chaining Your Agents

本文批判了多步骤AI代理中常见的线性链式结构,指出其低效且易出错。作者提出用图结构(节点和边)来设计代理工作流,并给出了14步路线图,涵盖节点契约、数据边、并行扇出、汇聚、条件路由、验证器、错误隔离、循环收敛、模型分层、成本优化等实践。核心思想是利用Claude Code的动态工作流功能,通过JavaScript脚本编排子代理,实现高效、可扩展的代理系统。

技术 › Agent seeco 2026-08-1523.4 KB 2.3M 602 84

Graph Engineering: Stop Chaining Your Agents

本文批判了多步骤AI代理中常见的线性链式结构,指出其效率低下且易出错。作者提出用图结构(Graph)来组织代理工作流,其中节点代表有界任务,边代表数据依赖。文章详细介绍了14步路线图,包括为节点和边定义契约、使用parallel()进行扇出、设置屏障进行扇入、运行时路由、添加验证器、隔离故障、设计收敛循环、按层分配模型以及利用Claude Code动态工作流工具自动生成图。核心思想是识别并消除虚假依赖,将线性脚本重构为并行图,以提升性能、可靠性和成本效率。

技术 › LLM seeco 2026-08-1523.4 KB 82

38家大模型11个实现就够了:拆解LLM协议层

本文剖析了开源Coding Agent的内核架构,重点讲解LLM协议层的精巧设计。一方面,通过分离API协议与服务商配置,仅用11个协议实现便覆盖了38家大模型,新增支持仅需十几行配置代码;另一方面,确立了“模型调用永不抛出异常”的核心契约,将网络中断、鉴权失败等异常情况统一降级为带有stopReason的普通事件流。这种设计不仅保持了上层Agent循环代码的优雅,还能在发生错误时保留已生成的部分内容,极大提升了系统的鲁棒性与用户体验。

技术 › Agent Yanhua 2026-08-0915.5 KB 17.8K 8 93

从 Chain 到 Agent:LangChain 为什么不够用了?

文章探讨了AI应用架构从Chain到Agent的演进过程。早期AI应用多采用固定流程的Chain模式,具有稳定、易控的优点,但难以应对现实中复杂的用户问题。为此,架构转向了Agent模式,将决策权由人工预设流程交还给AI动态决定。这种方式提升了灵活性,但也带来了失控风险,从而引出了后续如何为Agent划定边界的探索。

技术 › Agent jager 2026-08-097.5 KB 320 7 68

循环智能体的失效与图架构改造指南

作者分享了将单一的“循环”智能体重构为“图”架构的实战经验。文章指出,当生产输出的智能体同时负责自我评估时,会导致审核机制失效(橡皮图章)。为解决此问题,作者将任务拆分为研究员、作者和审核员三个独立节点,严格限制各节点对状态数据的读写权限,并引入条件路由进行质量把控。改造后,初稿通过率从45%提升至82.5%,有效提升了系统可靠性。

技术 › Agent Gipp 2026-08-0714.4 KB 235.1K 130 86