从提示工程到图工程:完整五层架构地图
本文提出AI系统构建的完整五层架构:提示、上下文、工具、循环和图。作者指出,大多数AI系统问题并非模型本身,而是出在某一具体层上,且常被误诊。通过详细表格和实例,文章解释了每层的功能、失效模式及成本,并强调各层并非替代关系,而是层层包裹。核心观点是:修复错误层不仅浪费时间,还可能使问题恶化。文章提供了诊断指南和优化建议,帮助读者准确识别并解决AI系统瓶颈。
本文提出AI系统构建的完整五层架构:提示、上下文、工具、循环和图。作者指出,大多数AI系统问题并非模型本身,而是出在某一具体层上,且常被误诊。通过详细表格和实例,文章解释了每层的功能、失效模式及成本,并强调各层并非替代关系,而是层层包裹。核心观点是:修复错误层不仅浪费时间,还可能使问题恶化。文章提供了诊断指南和优化建议,帮助读者准确识别并解决AI系统瓶颈。
文章以五层架构清晰梳理了AI系统构建的层次,提供了实用的诊断表和优化示例,观点新颖且时效性强,但部分内容因截断而略显不完整。
文章系统讲解了构建生产级 AI Agent 的五个层次:上下文工程、循环工程、Jev 工程、Harness 工程和评估工程,并以新员工类比逐一解释。核心内容包括:上下文窗口管理(稳定内容前置、利用 prompt caching、工具过多时改用搜索、用子代理减少主上下文占用);循环与工作流的区别(能否预先写清步骤),强调循环需要明确目标、外部检查器等四要素。每个层次都配有构建方法与面向初学者的捷径方案(通过 Viktor 这类 AI 员工工具实现)。目标是让小团队用可靠的 Agent 承担重复性工作,实现不增人力的规模扩张。
本文提出了2026年LLM工程路线图,指出与LLM工作不只是提示词,生产级系统需要对LLM的工程化、部署和优化有深入理解。文章总结八大支柱:提示工程(将prompt当作代码管理)、RAG系统(嵌入、检索、重排)、上下文工程(管理上下文窗口中各类信息的取舍)、微调(LoRA/QLoRA等技术)、Agent(工具调用循环与编排、状态管理、重试逻辑),并为每个领域提供了大量免费开源学习资源,如Anthropic、OpenAI官方指南及多个GitHub教程仓库。
本文深入解析了 ChatGPT 如何通过 Harness、API 和 Inference 三层架构优化 Agent 循环,重点介绍了持久化 WebSocket、增量 Token 化、KV 缓存管理和推测解码等技术,以降低成本并提升效率。
文章指出大多数人在错误的层面修复 AI Agent 问题:模型失败时反复改提示词、换模型、加工具,却忽略了真正的问题是模型周围的环境——Harness。Harness Engineering 是构建围绕模型的系统,决定模型能看到什么、能做什么、记住什么、如何判定成功与失败。作者提出六大实践:将请求转化为带完成条件的任务契约;用渐进式披露提供项目地图而非塞满上下文;在模型与工具之间设置网关校验与策略授权;将记忆(事实、决策、状态、经验)移出对话外部存储;以可观测证据作为任务完成的门槛,优先用确定性检查。好的 Harness 能提升每一次运行的质量。
本文是 Agent 面试高频题详解第 3 题,围绕多 Agent 架构展开。作者结合 50 位作者、63 场面试的面经,系统梳理了六个追问方向:要不要拆、怎么拆、怎么通信、结果谁汇总等。文章指出单 Agent 在上下文膨胀、工具过多、提示词分支复杂、无法并行四方面会卡住;同时多 Agent 有 token 成本(约为普通对话 15 倍)、协调开销、信息丢失和错误传播等代价。文中总结了主从、流水线、并行分片、执行加审查、按意图转交五种结构,以及上下文、工具权限、可验收三类拆分边界,并对比 Skill、MCP、Workflow、SubAgent 等概念的适用场景,最后给出通信方式与面试应答要点。
文章总结了 Claude Code 中十二种可复用的代理 Harness 设计模式,分为四大类:记忆与上下文(持久指令文件、范围化上下文组装、分层记忆、空闲整理、渐进式上下文压缩)、工作流与编排(探索-计划-执行循环、上下文隔离子代理、分叉-合并并行)、工具与权限(渐进式工具扩展、命令风险分类、单一职责工具设计)以及自动化(确定性生命周期钩子)。作者强调这些是架构层面的决策而非临时提示技巧,即使模型能力提升仍具价值。
本文整理了 Lee Robinson 在斯坦福 CS146S 的讲座,完整拆解常驻主动式智能体(如 GrokBot)的工程架构。内容涵盖:从工具到同事的四个时代演进、模型层六大关键变化(长程指令遵循、子智能体、computer use、技能系统等)、常驻 agent 内部架构(休眠-唤醒模型、Firecracker 微虚机云电脑、薄客户端单工具设计、Temporal 持久化工作流、升级阶梯)、安全模型(auto review、提示注入防护),以及上下文工程核心技巧(prompt caching 经济学、压缩时机、分层记忆),最后展望训练飞轮与行业走向,并给出给学生的三条建议。
这是一篇面向 AI 项目决策者的科普文章,无需技术背景,逐层拆解 AI Agent 的十三层结构。作者从核心三要素(模型、上下文、工具)讲起:模型是无状态、只会预测下一个词的神经网络;上下文包含系统提示、技能、规则、工具定义等,按 token 计费;工具在用户侧运行。后续层涵盖如何优化输出质量(上下文卫生、专有信息、大小与位置)、什么是 Agent、幻觉、知识库、记忆、Harness、子代理、长时循环、评估、交互式与无头模式、助手与自主 AI 的区别,以及 Skill 的价值。所有数据均来自已发表论文或标注为厂商声明的文档,文末附向团队提问的清单与要点总结。
本文介绍了Monaco团队为持续学习的销售Agent构建记忆系统的实践。作者提出下一代收入平台应从'记录系统'进化为'智能系统',并设计了Monaco Memory:分为组织记忆与用户记忆两层,采用人类与模型都可读的版本化Markdown(S3存储)作为载体,保证可解释性和可编辑性。系统通过基于事件的pub-sub触发器和定期'反思'(reflection)两种机制自动更新记忆,并将记忆作为上下文注入各Agent任务中。文章以账号筛选排除和异议处理两个场景展示了记忆系统如何提升销售工作流的智能化水平。
文章指出 Agent 记忆系统的核心问题不是检索而是上下文组织。跨 15 个模型、20 万模拟对话的研究显示,任务拆分为多轮会使准确率平均下降 39%,而合并为单轮可恢复大部分损失。文章回顾了 Agent 记忆的四个发展阶段(全量历史、滚动摘要、向量检索、知识图谱),批评语义/情景/程序性记忆分类无法指导检索决策,并主张按六种问题类型构建六种上下文形态。作者基于开源 Graphiti 引擎,以客户历史为例实操演示如何让记忆系统在模型运行前正确组织上下文,避免基于过时信息的自信回答。