文章深度解读 Baseten 出版的免费工程书《Inference Engineering》，系统讲解如何把 AI 模型在生产环境中跑得快、省、稳。全书以三层推理栈（运行时、基础设施、工具层）为骨架，核心分析框架是瓶颈判断：prefill 算力受限、decode 带宽受限、图像视频生成算力受限。内容涵盖模型与硬件理解（算术强度、KV cache、选卡策略）、软件栈（vLLM/SGLang/TensorRT-LLM 三大引擎对比）、五大加速技术（量化、投机解码、缓存、并行、分离部署）及其交互关系，以及生产化部署的延迟全栈账本、故障处理与成本核算，强调约束换性能、技术按组合评估等基本原则。
文章基于 Anthropic FDE Kevin Bai 的演讲与 ElevenLabs CEO Mati Staniszewski 的访谈，系统阐述 Forward Deployed Engineer（前置部署工程师）模式：FDE 是派出工程师深入客户业务、基于自有平台构建定制方案、按结果交付的模式，区别于外包。其适用判据是'高复杂度产品 × 非技术买家'。AI 时代几乎所有平台都可被 Agent 深度定制，推动各公司进入该场景。组织上 FDE 应隶属产品团队，关键在于知识回流平台，否则退化为服务业；文章总结 FDE 为'平台杠杆 × 知识回流杠杆'的双向结构，并以 Deutsche Bank 语音 Agent 案例展示交付流程。
本文深度解读 DeepSeek-V4.1-Flash 技术报告，该模型通过 CED 不对称编码器-解码器架构、CSA2 跨层稀疏注意力复用、FP4 主 KV 量化及 SWA Bounded Replay 近似恢复四项设计，将常驻 HBM 的全局 KV 缓存降至 890 bytes/token（约为上一代四分之一），持久化缓存降至八分之一。文章详细解析各项技术的原理与协作机制，澄清了对压缩数字的常见误读，评估模型能力变化，并与 PagedAttention、MiniCache 等已有 KV 压缩路线对比，指出该工作将缓存压缩从算法点推进为面向百万 token 长程 agent 场景的系统级共同设计，同时讨论其证据强度与局限。
本文介绍 Ben Clavié 在 AI Engineer World's Fair 的演讲，主张知识型 Agent 不应照搬 Coding Agent 范式。核心观点：编程智能体的成功源于代码环境的结构化红利；而法律、医疗、投研等知识任务的难点在于正确定位、理解和验证证据。要构建可用的知识 Agent，需具备面向任务的高质量检索工具（含图表、扫描件等多模态内容），以及主智能体负责任务分解、子智能体承担专业分工的编排架构。文章还给出企业级建设的优先级建议：定义可验证任务、建设证据层、按需拆分智能体、多维度评估并保留人工审核。
文章分析了 Agent 生成 PR 描述普遍存在的冗长、流水账问题，梳理了 Matt Pocock 与 dex 两位从业者的解决方案。Matt 的 /pr skill 定位为'格式参考'而非'工作流'，通过 Summary、Size and door、变更结构、Evidence、刻意省略五部分模板压缩 reviewer 的认知成本。dex 的 visual-pr 则是动手的工作流 skill，配合 show-me 的最小可视化语法。文章还介绍了 dex 提出的 skills vendoring 复用方案——将依赖的 SKILL.md 内联引用，避免 fork 脱钩，即'markdown 版 kustomize'，将 skills 复用从手工同步升级为声明式机制。
本文整理了 Matt Pocock 与 Gergely Orosz 的 96 分钟深度访谈精华。Matt 提出'知识已死，智慧永存'：AI 吃掉了战术性编程，人类须守住战略性编程。他分享了完整 AI 协作方法论：grill me（让 Agent 无情拷问以对齐需求）、spec→tickets 拆分工单绕开 15 万 token 注意力限制、wayfinder 用地图+战争迷雾隐喻管理超大工程、日班/夜班节奏。最具原创性的发现是'引导词'技巧：把经典软件工程书籍中的术语写入提示词，能激活模型深层概念、改变行为。他强调代码库就是 Agent 的运行环境，工程师应成为 Agent 的平台团队与园丁。结论是：帮助他的不是新方法，而是 25 年前的经典软件工程智慧。
本文整理了 Hamel Husain 的 Maven 课程「AI Product Engineering」13 场讲座（共 9.5 小时）的笔记精华，按 Evals、Context、Systems 三大主题组织。核心结论是 AI 产品优化的顺序：先优化检索与上下文（投入产出比最高），再改进系统与执行框架，最后才考虑 post-training。Evals 贯穿一切改进，是判断优化效果的前提。文章涵盖数据 Agent 评测、模型级联降本、自动化错误分析、多向量检索、嵌入模型优化、OCR 选型、推理延迟调试、开源模型经济学等具体实践，强调评测环境应反映生产环境的真实脏乱，模型推理能力往往远超其所得的检索质量。
斯坦福大学 NLP 团队开设的 LLM 全景课程 CME 295，由知名速查表作者 Amidi 兄弟主讲，用 9 次讲座系统覆盖 LLM 全知识地图。课程分四大板块：基础（NLP 演进、Transformer 架构、MoE、注意力变体）、训练（预训练、SFT、LoRA、RLHF/DPO、PPO/GRPO/RLVR）、系统与工程（分布式训练、KV 缓存、投机解码、AI Agent 与 MCP 协议）、评估与前沿（LLM-as-a-judge、Diffusion LLM、多模态）。课程特点包括知识密度高、零作业两次考试、前沿覆盖度好，并配有公开的 Study Guide 和 15 语言速查表，适合已懂基础 ML、想系统理解 LLM 原理与最新趋势的学习者。
作者推荐 Nathan Lambert 的新书《Reinforcement Learning from Human Feedback》，这是首本系统覆盖 RLHF 与后训练的专著。文章总结了全书三大核心论点：RLHF 本质是解决难以明确表述的问题；后训练是在固定底盘上挖掘潜能的'引导理论'；数据远比算法重要。书籍内容涵盖指令微调、奖励模型、PPO/GRPO/DPO 等强化学习算法、RLVR、合成数据、过度优化、正则化与评估，最后指出 RLHF 已从哲学化的对齐成熟为产品工程，大模型性格可被设计但也存在被滥用的风险。
Microsoft Build 2026 现场访谈中，Addy Osmani 介绍了 Agent Skills 的概念：将专业判断打包成 AI Agent 可执行工作流的标准化方式，类比新时代的 dotfiles。他展示了围绕软件研发生命周期（Define→Plan→Build→Verify→Review→Ship）组织的 Skill 仓库，统一遵循 Overview/Rationale/Red flags/Verification 设计模式，并现场演示 45 分钟从模糊想法到完整应用的全流程。访谈还探讨了人在回路中的代价、尽责程度与风险成正比、安全审查的非确定性困境、MCP 与 Skill 的对比及多模型分工等观点。
AI 写代码让 CI 成为新瓶颈。Anthropic 的数据显示：工程师代码产出约为过去 8 倍（约 80% 由 Claude 编写），测试数量增长 10 倍，六个月内 CI 任务量增长 25 倍。团队为此构建测试影响分析服务，基于历史结果和 package 相关性只跑必要的测试子集。服务 v0 采用单进程单写者架构，在负载暴增下滞后严重，团队先后打了三个补丁（换大机器、分片、每日重启），寿命从 70 天递减到不足一天。最终接受 Claude 的建议完成重构：把状态移出进程，用内存数据存储加无状态 worker 实现水平扩展。核心教训：要为指数级增长做设计、把可观测性做成 AI 的眼睛、从一开始就把状态移出进程。
本文深度解读斯坦福 CS329A Self-Improving AI Agents 课程第八讲，通过三篇前沿论文系统讲解智能体评测：METR 用'50%时间视界'衡量模型可完成任务的时长（每约7个月翻倍，但80%可靠性下缩短4-6倍）；OpenAI GDPval 用盲测胜率衡量经济价值（Claude Opus 4.1 达 47.6%，但趋势近似线性）；DeepScholar-Bench 评测知识综合的可信度（最高分仅31%，检索与综合是双重瓶颈）。核心结论：能力≠价值≠质量，三者共同撞上'上下文之墙'，评测需多指标并用并保持人类校验。
文章基于 TogetherAI 团队 Zain 的分享，沿一个请求的完整生命周期拆解 LLM 推理引擎（vLLM、SGLang、TensorRT-LLM）的内部机制。核心洞察是：prefill 计算受限、decode 内存带宽受限；KV cache 用空间换掉平方级计算，但成为显存瓶颈。引擎通过连续批处理让 GPU 每 pass 都不空闲，PagedAttention 像操作系统管理内存一样管理 KV cache（碎片率从 60-80% 降到 4% 以下），chunked prefill 摊平长 prompt 带来的延迟尖峰。Agent 循环因每轮重发完整对话、输入越来越长而输出极短，使其痛点落在 prefill 与 KV cache 上：prefix caching 可将 100 轮 agent 的总 prefill 工作量从约 55 倍降到约 10 倍，'缓存为王'是 agent 与引擎的交汇点。
本文解读吴恩达在 DeepLearning.AI 连载的「AI 工程技能地图」系列五封信。该地图基于超万条职位分析、专家访谈与问卷数据，提出四大技能板块：构建与部署 AI 应用（LLM 基础、RAG、智能体系统、评估驱动开发、生产运维、机器学习基础）、软件工程基础（全栈、数据、架构、安全可靠、扩展）、使用编程智能体（规划—执行—部署工作流与五项技能）、塑造构建（驱动构建循环、产品决策、沟通领导、主动所有权）。核心观点：AI 时代工程师价值从写代码上移到决定构建什么，判断力、工程根基与产品思维的要求更高而非更低。
本文梳理 Meta AI 高级总监 Madhu Guru 的「How to Build Great Evals」十篇系列，总结一套 AI Agent 评测工程方法论。核心观点：评测应锚定真实用户流量而非实验室数据；先建立可信质量信号再降成本；挖掘 500-1000 条真实交互建立精确的失败分类；采用爬坡、回归、冒烟、上线四层阶梯组织评测；反对将质量压缩为单一平均分；按阶段度量中间步骤而非只看最终结果；评测体系须随用户行为演进持续更新。文章同时指出其局限：缺少统计测量学基础、未正面处理过程与结果评测的权衡。
本文是对 OpenAI Codex 团队负责人 Tibo Sottiaux 的深度访谈编译。访谈回顾了 Codex 从内部研究项目成长为热门 AI 编码工具的历程，详解三个反直觉决策：用 Rust 编写、全面开源、模型无关。核心洞察包括“harness 永远领先模型一点”的拐杖理论，以及 AI 重写软件开发生命周期：代码评审自动化、维护成本坍塌、意图讨论成为人类评审核心。还介绍了 Codex 与 ChatGPT 合并的架构工程、未来混合执行环境，以及 Tibo 对工程师职业发展的建议。
CMU LTI 2026 年秋季新开研究生课程 11-768: AI Agents，由 OpenHands 核心开发者 Graham Neubig 与 Daniel Fried 共同讲授。课程以"搭 harness→建评测→RL 训练→做研究"流水线为主线，涵盖工具调用、上下文管理、技能与记忆、规划、安全、框架实践等模块，密集邀请一线学者客座授课。作业要求学生在开源 LLM 之上从零实现 ReAct Agent、设计评测框架并完成 SFT/RL 训练，工程细节对标生产级 Agent 系统。期末研究项目占 50% 成绩。PPT、视频与作业仓库全部公开，是目前系统学习 LLM Agent 建造、评测与训练最完整的公开课程。
MIT 由 Paul Liang 主讲的《How to AI (Almost) Anything / Multimodal AI》2026 春季课程全套视频免费上线。课程涵盖多模态学习完整技术栈：异构数据表示与融合、跨模态对齐、多模态生成、推理（RLHF、DeepSeek-R1、DPO）、智能体、跨模态迁移，以及触觉、嗅觉等新模态与自进化 AI 等前沿方向。相比 2025 版，新增多模态推理、智能体、自进化 AI 模块及制造、城市、交通等应用课。适合有机器学习基础的学习者系统建立多模态 AI 知识框架，课程网站与 YouTube 播放列表均可免费访问。
本文深度解读 Claude Code 开发者 Thariq Shihipar 的 70 分钟访谈，揭示 Anthropic 内部如何用 AI 做工程。核心观点包括：工程师抽象层级必须上移，把 Claude 当思考伙伴；知识工作皆可代码化；模型越强 harness 越复杂；自主性取决于 ticket 质量；提示工程被重新定义为注入上下文的一切；品味成为稀缺资源；验证能力重要性暴涨（测试代码需多 100 倍）；写作与信任文化规范；以及 loop engineering、生成式界面等将扩散到全行业的转变。
作者整理了近一个月收藏和推荐的 Claude Agent Skills 资源合集。内容分为三大类：一是作者自研的开源 Skills（信息卡生成、品牌复刻 DESIGN.md、SVG 手绘效果）；二是 UI/UX 设计类 Skills，包括设计工程师审美经验、去 AI 味前端设计品味、Remotion Skills 2.0 及 Atlassian 对 DESIGN.md 的实测等；三是 Skills 构建与方法论，涵盖 33 页完整构建指南及中文翻译、Google Research 的 WikiSkill、Warp 的自我改进 Agent 与 Skill Doctor 等。最后还推荐了精选单点 Skills，如去 AI 味 Top 10、Cursor 代码质量审查、show-me 图示 Skill、Unslop 写作优化等。
本文推荐斯坦福研究生研讨课 CS329A，课程以'一线经验+论文精读'形式讲授如何构建自我改进的智能体，共 9 讲并全部收录于 YouTube。课程主线为：生成→验证→筛选→训练→更强模型的循环。内容涵盖 test-time compute scaling、稳健验证（ORM/PRM/Math-Shepherd/Weaver）、反馈学习（ReAct/RLEF/CAI）、规划与多步推理、RL scaling（STaR/GRPO/DAPO）、Deep Research Agents 及长期任务评估。核心结论：瓶颈在于验证而非生成，可验证领域（数学、代码）飞轮转得快，当前 RL 提升的是一致性而非根本能力。
本文深度解读 omp 作者 Can Bölük 的《Harness Playbook》，提出 Agent Harness 是系统软件而非简单循环的核心命题。文章系统阐述 omp² 的架构蓝图：以唯一权威会话（DOM 树）解决 rewind/fork/resume 的状态一致性；沙箱只执行不决策；Convar 管值、Director 栈管行为的控制面设计；将模型兼容性作为结构化知识的推理层；精简工具名册以提升性能的深度内建工具；基于 RichText 流原语与 TLA+ 验证的渲染层；以及 Rust 核心 + Python 扩展的技术栈选择。文章认为该文将 Harness 工程提升为可推理的学科，同时指出其激进设计尚待落地验证。
本文介绍 xAI 团队设计 Grok Bot 的产品思考：将十几个 AI 概念收敛为 Bot、Chat、Prompt、Tool、Artifact 五个用户原语；把组织单元从聊天记录换成 Bot 名单，让心智模型从工具切换为同事；通过头像动画承载生命周期提供在场感；为每个 Bot 配备独立电脑并采用三级访问设计；用结构化卡片回答信息；能力共享而上下文按角色隔离；Routine 让 Bot 无需提示词即可按日程或事件自主工作。整个设计的核心原则是持续做减法，回归'帮人委派而非增加管理负担'。
文章分析了 John Wang 对 OpenAI Codex 开源仓库的研究。Codex 从 2025 年 5 月的 98 个月提交、单一主作者，增长到 2026 年的 900+ 月提交、35 位常规贡献者，归因于大量使用 coding agent、团队扩招和对护栏规则的重投资。核心经验包括：AGENTS.md 把 review 踩过的坑编码成规则；规则按 Review → AGENTS.md → Lint/CI 三级演进；测试代码占 40%，分层执行保证速度；迁移通过 feature flag 推进并用 lint 锁定成果。结论是工程实现变便宜后，测试、边界、自动化和招人等经典工程要素反而更重要。
文章深度解读 Anthropic 发布的《AI 原生 SDLC 手册》。作者指出核心问题在于流程而非代码：AI 写代码速度大幅提升，但审批、评审、治理等环节仍按人的速度运转，效率在流程中被消耗掉。AI 原生 SDLC 的思路是保留原有控制目标、更换执行方式，包含三个机制：流程从线性变为循环、每个阶段以提交一个产物结束（intent.md、spec.md、plan.md 等）、人的注意力集中在审批门上。文章逐一梳理了计划、设计、构建、测试、部署、维护六个阶段的具体做法，包括 plan mode、CLAUDE.md、skill、hook 护栏、并行会话、eval 持续评估、PR 评审和托管设置等，最后通过监控指标驱动的闭环实现自主运行。
本文解读 Simon Willison 的《Agentic Engineering Patterns》，系统总结编码 Agent 时代的软件工程方法论。核心观点：当写代码边际成本趋零，工程师职责转向为 Agent 配备工具、定义问题、验证结果。文章区分了 agentic engineering 与 vibe coding，提出囤积已验证方案、用异步 Agent 清理技术债、子 Agent 保护上下文、Red/Green TDD 与证据式测试等模式，并强调提交未审查代码是最大反模式，以及通过走读和交互式解释偿还认知债。
文章交叉解读Google、OpenAI、Anthropic与LangChain四份行业报告，指出AI对软件工程的最大影响不是提高单环节效率，而是迫使企业重构整个软件开发生命周期。核心观点包括：代码生成正从稀缺能力变为基础能力，交付瓶颈向需求、验证、审查和治理迁移；Context与Harness比模型能力更关键；测试与Evals须形成持续闭环；人类从主要实施者转向意图定义者与风险责任人。文章详细阐述了从意图制品到生产反馈的AI原生工作流、vibe coding与agentic engineering的区别，以及治理如何通过Skills与Hooks等机制在行动时强制执行。
文章介绍如何用六个分工明确的 Hermes AI 机器人加共享知识库，构建一人媒体公司的完整内容生产闭环。系统采用四层基础设施（Bot Mode、独立档案、Obsidian 知识库、Kanban 看板），六个角色分别为信号侦察、研究员、内容策略师、长文作者、分发和编辑，各自遵守职责契约。关键机制包括可检查的结构化交接、人类保留编辑边界批准权、数据反哺系统迭代。文章还给出 8 步 MVP 落地路径，强调自动化应消除重复决策而非消除个人品味。
Claude 官方博客介绍了 Warp 团队如何基于 Claude 构建自我改进的 Agent。针对一次性提示词只能完成任务 80% 的痛点，Warp 设计了基于 Skills 的双层自我改进循环：内层 Skill 执行任务，外层 Improver Skill 定时拉取人类反馈，自动生成修改 Skill 的 PR，经人类评审合并后形成知识闭环。文章以 Issue 分诊 Agent 为实战案例，并总结六条实践经验：写原则而非规则、解释为什么、反馈零摩擦、Skill 保持小、反馈质量大于数量、重点投入 Improver Skill。同时辨析了 Skill 与 Memory 的区别，强调需假设反馈可能出错，并根据领域可验证性选择评估策略。
作者整理了自己收藏的大量前端 UI/UX 设计资源，并借助 Codex 分类归纳，形成一张面向实际工作的资源地图。文章将设计资源分为五类：真实产品案例（UXSnaps、Mobbin、SaaSFrame）、设计模式与拆解（Design Spells、Component Gallery）、设计系统与 Design Token、组件实现（Base UI、React Aria、shadcn/ui 等）以及质量验收（WCAG 无障碍、性能测试）。作者强调有效的使用顺序是：真实案例提供证据、设计原则解释原因、设计系统形成约束、组件资源加速实现、无障碍与性能完成验收，帮助读者从'抄视觉'升级为'有理由的设计'。
