Wiki 知识库

全部文档 / 标签: 系统设计

76 篇
清除

给 AI 装上一条河,它会醒过来吗?

文章将一篇灵长类大脑神经科学的预印本、七世纪玄奘译出的《解深密经》与当今 Agent 架构并置对照,提出一个猜想:意识可能不仅关乎'位置'和'规模',还关乎'时间上的选择'。研究发现面孔区以约每秒15次的节奏在'被意识到'和'被抑制'的表征间交替。作者类比唯识八识体系,指出今天的 AI 只有前五识和第六意识(推理),缺少第七末那识(恒常自我追踪)和第八阿赖耶识(恒转如瀑流的种子池)。文末给出一个玩具级'常驻之河' Agent 设计,包含种子池、节拍调度器、竞争选择、末那日志和熏习写回五个部件,探讨如何构建一个持续流动而非'每次调用从零开始'的系统。

技术 › LLM Neo@Matrix 2026-10-1926.2 KB 3.2K 3 78

最新OpenAI 面试真题:Chat Bot System Refactoring(legacy chat service + slash-command bots 重构题)

本文解析一道 OpenAI 面试真题:重构一个基于斜杠命令的 legacy 聊天服务(含 AwayBot、MeetBot、TacoBot)。作者提出五步解法:先冻结旧行为并编写黄金测试,再定义 should_activate/execute 接口分离判断与执行,为全局状态找到归属组件,比较直接调用与事件总线两种协作方案并给出迁移顺序,最后单独提交行为修复。文章附有最小事件驱动实现的完整 Python 代码,并讨论了事件时序、bot 注册顺序、测试策略等细节。

技术 › OpenAI 山景城小路 2026-10-1415.2 KB 2.8K 37 83

System Design Essentials - Part 3

本文是System Design Essentials系列的第三部分也是最后一部分,聚焦系统设计中的优化技术。文章详细介绍了缓存概念、缓存命中与失效,以及五种缓存策略:Cache Aside、Read Through、Write Through、Write Around和Write Back。此外还讲解了幂等性、幂等键、去重机制及其在分布式系统中的重要性,并分析了分布式系统的优势与挑战(一致性、可用性、容错性、延迟),最后深入解释了一致性哈希的原理及其在服务器扩缩容时减少请求重映射的作用。

技术 › 后端 Anurag 2026-10-0615.7 KB 15K 355 75

How We Built Memory For Continually Learning Sales Agents

本文介绍了Monaco团队为持续学习的销售Agent构建记忆系统的实践。作者提出下一代收入平台应从'记录系统'进化为'智能系统',并设计了Monaco Memory:分为组织记忆与用户记忆两层,采用人类与模型都可读的版本化Markdown(S3存储)作为载体,保证可解释性和可编辑性。系统通过基于事件的pub-sub触发器和定期'反思'(reflection)两种机制自动更新记忆,并将记忆作为上下文注入各Agent任务中。文章以账号筛选排除和异议处理两个场景展示了记忆系统如何提升销售工作流的智能化水平。

技术 › Agent Mihail Eric 2026-10-018.6 KB 8K 135 79

System Design Essentials - 2

本文是系统设计系列三篇中的第二篇,聚焦架构决策与关键组件。作者逐一讲解了事件驱动架构(EDA)的松耦合与异步通信优势、Serverless 架构的按需执行与冷启动特性、CDN 通过边缘节点缓存静态内容的原理、消息队列在生产者与消费者之间的解耦与缓冲作用、Pub-Sub 一对多广播模式与队列的区别,以及后台任务处理(将非关键任务异步化)和 Cron 定时任务等模式。文章强调知道组件与知道如何组装系统不同,重点在于权衡各架构选择的成本与收益。

技术 › 后端 Anurag 2026-09-2917.8 KB 18.7K 386 70

vLLM 架构之美:PagedAttention 与 Continuous Batching 解析

作者赞颂 vLLM 的软件设计之美。文章首先介绍 LLM 自回归生成的基本原理,以及推理的两个阶段:计算密集的 Prefill 和带宽受限的 Decode,指出 KV Cache 动态增长与静态批处理带来的内存浪费问题。vLLM 借鉴操作系统分页思想,将 KV Cache 切分为固定大小的块并维护逻辑到物理的块表(PagedAttention),将内存浪费降至约 3%;配合 Continuous Batching 和动态调度,避免已完成的请求阻塞整个批次,让 GPU 始终保持高效。作者认为 vLLM 的成功源于借鉴已被大规模验证的成熟系统概念。

技术 › LLM Atharva 2026-09-275.1 KB 21K 401 56

System Design Essentials - 1

本文是系统设计基础三部曲系列的第一篇,介绍了软件系统设计中的核心构建模块,包括客户端-服务器架构(二层与三层架构)、垂直扩展与水平扩展的区别、数据库基础及CRUD操作、ACID与BASE两种事务模型、CAP定理及其在分布式系统中的权衡、关系型数据库(SQL)与非关系型数据库(NoSQL)的特点与适用场景,以及数据库主从复制的读写分离模式。每个概念都配有简明解释、图示、解决的问题及背后的权衡,适合系统设计入门学习和面试准备。

技术 › 后端 Anurag 2026-09-2221.6 KB 235.3K 1.6K 62

System Design for Beginners: How to Start With HLD and LLD

本文面向系统设计初学者,清晰区分高层设计(HLD)与低层设计(LLD)。HLD关注系统整体架构,如组件交互、数据存储与扩展性;LLD关注代码级细节,如类、对象与设计模式。文章强调两者缺一不可,并深入讲解请求流程、延迟与吞吐量、垂直与水平扩展等核心概念,为初学者提供了一条清晰的学习路径。

技术 › 后端 Harshit Khosla 2026-09-1475.9 KB 61.3K 1.1K 61

How I Built pragatiLM?

作者详细介绍了 pragatiLM 的构建过程——一个只基于用户提供的源(PDF、网页、YouTube 视频、字幕文件或粘贴文本)作答并附带可点击引用的 AI 笔记本。文章系统讲解了基础 RAG 的原理及其三大失效点:问题作为搜索键不佳、存储只单向单次搜索、输出缺乏自检。pragatiLM 采用九阶段检索管线:将问题转化为五个搜索变体、并行多通道检索、基于排名一致性融合、重排序、答案 grading,低分时基于缺失诊断再次检索,极低分时拒答。文章还涵盖基础设施、消融实验测试等内容。

技术 › LLM Saurav Jha 2026-09-1340.3 KB 3.7K 34 85

Memory Is a Compiler:记忆是一个编译器

作者通过一次融资会议记忆被重新解读的经历,指出记忆的本质不是固定表示,而是一个持久系统:保留过去的证据,并随新证据不断重新编译其意义。文章批评将向量数据库、知识图谱、上下文窗口等当作记忆的常见误解,认为它们只是从记忆编译出的临时表示。作者提出记忆编译产生三类产物:状态(按序折叠事件得到)、检索(查找相关证据的工具)和上下文(为单次调用组装的有界视图),并类比编译器的中间表示(IR),指出每种表示只适合特定操作,记忆本身应是唯一不可丢弃的持久层。

技术 › LLM Ashwin Gopinath 2026-09-0114.7 KB 9K 109 72

10张图详细拆解DeepSeek Harness设计架构

作者用10张图系统拆解DeepSeek Harness(DSH)的架构设计。DSH启动经历两次装配:先通过Profile、Bundle和Patch构建公共Host(含Session、模型注册、工具系统、Agent Loop和Web服务),再依据Preset为会话装配具体Agent。底层基于Cordis插件框架,通过provide/inject服务依赖图和事件机制将独立插件组装成完整系统。文章还详解了Agent Loop的Turn/Step运行机制、SessionEvent事件日志的持久化设计,以及如何通过自定义Preset快速构建业务Agent。

技术 › Agent 轩辕之风 2026-08-2517.4 KB 8.5K 69 84

Designing the Backend for Agent Systems (Part 2)

本文是 Agent 系统后端设计三部曲的第二篇,提供一套可参考的 Agent 应用后端架构模板,涵盖 API、队列、Worker、流式输出、结构化输出、会话管理及成本限制等八层设计。文章批判了在 HTTP 请求中同步执行 Agent 的做法,强调应先持久化再入队、引入幂等键防止重复计费、使用显式任务状态机(含 awaiting_input 人工介入状态)和取消机制,并强调租户身份隔离、UUID 任务 ID、Pydantic 输入校验等安全与成本控制实践。

技术 › Agent Karan 2026-08-2231.0 KB 27K 262 86

System Design for Agent Systems (Part 1)

本文深入探讨了代理系统设计的基础与核心组件。作者指出,将前沿模型放入设计糟糕的代理系统只会得到更清晰的失败,因此工程重点应放在模型之外的代理框架(harness)上。文章首先对比了代理工作负载与传统Web请求的差异,强调代理任务耗时、I/O密集、非确定性和高边际成本,并由此推导出架构设计原则。随后,文章详细介绍了代理框架的四个关键组件:工具(Tools)的设计契约与最佳实践、提示词工程(Prompt Engineering)的结构化方法与版本管理、记忆(Memory)的短期与长期区分及上下文管理,以及多代理编排(Orchestration)的并行与顺序模式。所有内容均基于一个真实的五代理系统DevVoice,提供了实用的设计决策与代码示例。

技术 › Agent Karan 2026-08-2019.9 KB 76.4K 796 81

当每个人都成了媒体,心理健康就成了生产基础设施

本文探讨了创作者在数字化时代面临的心理健康挑战。作者指出,创作者的工作打破了工作与生活、作品与人格、劳动与结果的边界,导致压力成为系统性问题。文章提出,心理健康应被视为生产基础设施,而非个人福利,并建议通过暴露、收入、节奏和身份四组保险丝来构建可持续的创作系统。最后,作者强调长期作品需要活着的作者,专业意味着承认人的状态变化并提前设计应对机制。

职场 › 职业发展 Cell 细胞 2026-08-169.6 KB 1.9K 5 74

人因工程与复杂系统:AI时代的认知挑战

本文从人因工程视角探讨人类在复杂系统中的角色,指出人类是系统中最脆弱且不可预测的组件。作者结合航天、核电、大模型交互等场景,分析了人类在高压下的认知局限,如注意力狭隘、态势感知崩溃等。文章批评了心理学研究的复现危机和遍历性问题,强调个体预测的困难。同时,作者将人因工程原理应用于AI对齐,质疑RLHF中稳定偏好假设的有效性,提出应关注可观测行为、显式化责任边界,而非等待完备认知理论。

技术 › LLM Phoenix Yin 2026-08-155.3 KB 74

图工程:构建多智能体系统的完全指南

构建多智能体系统的核心挑战不在于提升单个智能体的能力,而在于如何协调工作流,这被称为“图工程”。文章指出,应将系统视为依赖图,区分真实依赖与虚假顺序,并引入结构化状态。同时强调要控制并行宽度以优化成本,关注关键路径以降低延迟。此外,建议在最终推理前使用代码进行确定性的数据压缩与归约,并采用非对称验证机制,从而打造高效、易调试的AI系统。

技术 › Agent Lunar 2026-08-0917.8 KB 2M 571 88

Harness Engineering:构建决定AI Agent可靠性的七层架构

文章指出,AI Agent的可靠性不取决于模型权重,而取决于周围的脚手架(Harness)。Harness分为七层:执行环境、工具接口、上下文管理、编排与生命周期、可观测性、验证和权限边界。这七层都是需要编写和版本控制的代码,而非模型属性。此外,Harness还分为由模型构建者提供的内部Harness和开发者自行组装的外部Harness。

技术 › Agent zostaff 2026-08-0920.2 KB 26.4K 45 88

谷歌 Gemini 背后的男人,永远的代码之神

文章讲述了谷歌人工智能负责人 Jeff Dean 的传奇生平。从高中编写流行病软件,到与桑杰在 DEC 结缘,再到加入谷歌挽救索引危机。他们通过 MapReduce、Bigtable 和 Spanner 等创新,奠定了现代分布式系统与大数据的基石,展现了应对大规模硬件故障的非凡工程能力。

技术 › 后端 向 向阳乔木 2026-08-0643.3 KB 49.1K 43

OpenAI 技术面试全拆解:一份地狱难度的工程师进阶清单

本文详细拆解了 OpenAI 软件工程师的高难度面试流程,涵盖初筛、编码、系统设计、48小时居家项目、技术深潜、终面及未公开的 Agentic Coding 考试。文章分析了每轮考核的核心能力(如 MVCC、分布式一致性、推理系统扩缩容等),并指出面试标准正向“指挥 Agent 交付”迁移,是一份高质量的工程师进阶指南。

职场 › 职业发展 WquGuru 2026-08-0318.1 KB 49.8K 238

如何使用图工程构建多因子Alpha模型

本文详细介绍了如何利用图工程构建对冲基金级别的多因子Alpha模型。作者阐述了从Prompt、Loop、Swarm到Graph的技术演进路径,重点介绍了Slate这一运行时工具,它能通过JavaScript编写的程序自动化执行复杂的图结构任务,解决了多智能体系统中的协调与失败处理难题。

投资 › 量化交易 Roan 2026-07-2424.6 KB 3.3M 820

后端工程师进阶路线:40个核心概念与六个成长阶段

本文为准备系统设计面试的后端工程师提供了一份详尽的学习指南。作者将零散的技术知识点整合为六个递进阶段:从Web基础、数据库管理,到构建生产级应用、系统扩缩容,再到分布式系统思维与架构设计。文章强调技术概念间的内在联系,旨在帮助开发者通过系统性的学习路径,从初学者成长为合格的软件架构师。

技术 › 后端 Tech Fusionist 2026-07-134.7 KB 110.6K 620

你是大模型的受益方,还是被吞掉方?AI应用的护城河与机会 ft. TiDB 唐刘

文章探讨了 AI Agent 时代数据库角色的演变。TiDB 唐刘指出,虽然 AI 压缩了中间层软件,但数据库作为 Agent 的“统一存储层”和“单一事实源”,其重要性不降反升。文章详细梳理了从存海量数据、租户隔离、Agent 自主管理到文件与 Workspace 托管的六大产品演化阶段,并讨论了 FDE 角色在 AI 时代的回归,以及判断 AI 产品护城河的核心逻辑:是模型进步的受益方,还是将被吞掉的一层。

技术 › 后端 Star@Day1Global Podcast 2026-07-1319.4 KB 10.7K 12

拆解宝玉的 21 个 Skills:高手如何构建 AI 工作流

文章深入剖析了开发者宝玉的 baoyu-skills 仓库,认为这不是简单的提示词合集,而是一套工程化的 AI 工作流操作系统。作者将 21 个 Skills 划分为内容生产、视觉表达、平台发布、素材输入五大模块,通过对比“提示词玩家”与“资深工程师”的思维差异,揭示了高手利用 AI 的核心逻辑:将任务拆解为代码与模型的最优组合,注重确定性、复用性与上下文效率,而非单纯依赖模型能力。

技术 › Agent 锦鲤老湿 2026-07-0823.2 KB

Claude Code 作者说他不再写 prompt 了

文章介绍了 Claude Code 作者提出的“循环工程”(Loop Engineering)概念,即通过设计自动化的反馈循环,让 AI Agent 自主完成从执行到校验的全过程。核心在于从“写提示词”转变为“设计终止条件和校验机制”,详细拆解了触发器、执行层、校验器、停止规则等六个关键组件,强调了明确终态和范围约束的重要性。

技术 › Harness Engineering Musolsol.𝟎𝐱𝐔 2026-07-068.4 KB 18K 72

从 OpenClaw 到 FastClaw:如何设计优秀的多 Agent 架构

作者基于一年 OpenClaw 的使用与托管经验,深入剖析了其在多租户隔离、云原生支持及架构上的局限性。为此,作者提出了全新的 Agent 框架 FastClaw。FastClaw 基于 Go 语言重新设计,采用存算分离、多租户 RBAC、JSON-RPC 插件隔离等架构,旨在构建一个更轻量、高并发且适合云原生部署的生产级多 Agent 平台。

技术 › Agent idoubi 2026-06-2319.1 KB 31.5K 212