LLM 中的 Prompt Caching 技术详解：以 Claude 为例的高效缓存策略
本文深入探讨了 LLM 中的 Prompt Caching 技术，解释了其背后的 KV Cache 机制及静态/动态上下文分离原理。文章通过 Claude Code 的案例分析，展示了如何通过保持 92% 的缓存命中率来将计算成本降低 81%，并总结了哈希敏感性和工程化落地的关键约束。
相关文档
LLM 提示词缓存原理与实战应用
文章深入探讨了LLM中的提示词缓存技术。通过区分静态前缀（如系统指令）和动态后缀（如用户消息），利用KV Cache机制避免重复计算，大幅降低长上下文任务的成本。文章以Claude Code为例，展示了如何通过保持92%的缓存命中率将成本降低81%。同时，强调了Hash缓存的脆弱性，任何微小的前缀变动都会导致缓存失效，并给出了在开发Agent时维持缓存热度的具体工程建议。
How to Build a Multi-Model Team of AI Agents in 2026
本文介绍 2026 年构建多模型 AI Agent 团队的完整方法。作者指出使用单一模型会导致高成本低效、专业能力受限以及单供应商故障/盲点风险，主张按任务步骤选择合适模型。文章梳理了 2026 年 9 月的主流模型阵容（Claude Opus/Sonnet/Haiku/Fable 5.1、GPT-6 Astra、TypeSafe Jev）及定价，提出五层架构：路由器、编排器、专家模型、评审者（critic）和纯代码层，并讲解如何先对工作负载分类（决策、简单生成、真实工作、难题），再为每层选择最划算的模型。文中附有统一封装多供应商 API 的示例代码，涵盖 effort 参数与 thinking block 处理细节。
Reducing cost and improving performance with Claude Platform
本文介绍如何通过三项优化在不牺牲性能的前提下降低 Claude 应用的成本：最大化 prompt cache 命中率、清理迁移到前沿模型后的提示词反模式、以及按任务校准 effort 设置。文章详细讲解了 prompt cache 的工作机制（KV 缓存、字节级前缀匹配、TTL 限制），给出监控缓存命中率、延迟加载少用工具、以消息形式更新系统提示、预加热缓存等实践技巧；同时列举了验证仪式、过度强调、过时示例、矛盾规则等反模式及其修复方法，并介绍了 claude-api skill 中的 prompt-audit 命令帮助自动检测问题。
LLM 路由可能比不路由成本更高
文章探讨 LLM 路由（LLM Routing）的成本悖论：理论上将简单任务分配给廉价模型可节省大量成本（如 RouteLLM 实现约 85% 降本），Uber 因给 5000 名工程师统一部署 Claude Code 导致年度 AI 预算提前耗尽的案例也说明单一模型定价的问题。但传统路由方案在生产中会因四大失败模式而失效：分类调用额外计费、通用模型意图识别能力差、路由逻辑缺乏评估易腐化、以及模型切换破坏 KV 缓存导致全价重算。文章随后介绍 DigitalOcean 基于开源代理 Plano 的基础设施级路由方案：使用 1.5B 参数的专用路由模型（Arch-Router / Plano-Orchestrator）在代理内完成意图解析，准确率超越前沿大模型且更快，再结合成本与延迟数据对候选模型池按策略排序，实现成本与质量兼顾的动态路由。
说一句收到，我花了20341个token——Agent成本的过路费与省钱三刀
作者发现验证Agent成员是否存活时，一句简单的「收到」竟消耗两万个token，原因是每次对话都要重新装配成员的身份、记忆、技能清单等。文章剖析了Agent成本的三层「过路费」结构：身份装配、上下文搬运和格式开销，指出七成token花在空驶而非思考上。作者提出三刀止损法：利用前缀缓存把不变内容前置、健康探针直连绕过人格装配、协作转手只传摘要。实施后成本降了一半以上，但同时也暴露出便宜诱发滥用、缓存惩罚变动等新问题，并引出本地化部署的机会成本与主权优势思考。
Agent 开发指南：技术太多，该怎么学？
文章深入分析了 Agent 开发的技术趋势，指出核心稀缺资源已从“代码”转向“可信结果”。阐述了 Harness Engineering 的重要性，强调在概率性推理之外建立确定性执行外壳，通过状态管理、身份验证和结果验收，让 Agent 能够在复杂系统中可靠承担责任。
使用 Fable 5 构建自我改进 Agent 系统的 14 步指南
本文介绍如何利用 Claude Fable 5 模型构建具有复合能力的自我改进 Agent 系统。文章首先澄清了 Fable 5 作为 Mythos 级模型的定位，强调了其支持“长周期自主会话”和“自验证”的核心能力。作者指出，真正的自我改进并非模型权重的更新，而是通过 loops、dynamic workflows 和 routines 这三种原语，构建起包含记忆层和评估反馈层的环境架构。文章还详细阐述了如何根据任务复杂度在 Fable 5、Opus 和 Sonnet 之间进行成本最优的路由配置。
从零基础到生产环境掌握人工智能代理——完整指南
这是一份关于构建生产级 AI 智能体的完整指南。文章详细阐述了智能体与聊天机器人的本质区别，涵盖了从工具设计、系统提示词、多智能体编排到生产环境部署、测试评估的全流程。重点介绍了如何利用 API 构建可靠的智能体循环，并指出了初学者常犯的错误及生产环境下的监控与成本控制策略。
搞懂缓存机制，从Gemma4到Claude Code省80%Token
文章通过本地 Gemma4 实验发现大模型对话中存在 100 倍加速的现象，深入剖析了 Transformer 的 KV 缓存原理，并逆向分析了 Claude Code 的精密缓存工程。文章解释了为何连续对话比频繁开启新 Session 更省钱，指出破坏缓存的关键行为（如切换模型、修改 System Prompt），并提供了保护缓存以节省 80% Token 的具体使用姿势。
从构建 Claude Code 中汲取的经验教训：提示缓存至关重要
文章详细阐述了提示缓存在构建 Claude Code 等 AI 代理中的关键作用。核心经验包括：利用前缀匹配机制规划缓存、通过消息传递更新而非修改系统提示以保持缓存、避免中途切换模型或工具、以及利用“延迟加载”和“缓存安全分叉”等技术优化上下文管理。围绕缓存设计系统架构能显著降低延迟与成本。
如何把 Opus 5.5 变成工作室：动效设计、Harness 与循环的完整指南
文章介绍了 Anthropic 发布的 Claude Opus 5.5 模型，其性能达到 Fable 5.1 水平但运行成本低 40%，尤其在长时间自主任务中表现突出。作者指出动效设计、Harness 工程和循环工程三者实为一个完整技术栈，并以五部分结构展开讲解：模型本身的基准数据与定价、如何用它做纯代码驱动的动效/动画创作、让输出可靠化的 Harness 工程、让 Agent 持续自主工作的循环机制，以及如何用单个模型串联整个工作流。文章强调缓存读取降价 60% 使长循环成本可控，并列举了大规模代码迁移、翻译 HAProxy 等实际案例。
AI 的流量超过人类之后，搜索也要重做一遍
Cloudflare 数据显示 AI 自动化流量首次超过人类（57.5% vs 42.5%）。文章分析搜索用户从人、到大模型、再到 Agent 的三次演变，指出 Agent 场景下搜索的三大卡点：结果需可直接用、信源要可信、速度要快。腾讯「元宝搜索」通过提供完整正文、接入 157 个权威信源、索引期压缩网页为 100 token 支持 KV Cache 复用等优化，使 Agent 完成任务的平均搜索调用从 8 次降至 5 次。作者实测 9 个品类 31 条 query，认为其强项为权威性、时效性和正文提供能力，适合国内 Agent 开发者，但学术论文、生活服务等场景需配合垂类 API。文章最后介绍了三种接入方式与按量计费价格。
