本文介绍如何利用 Google Gemini Enterprise Agent Platform 的上下文缓存（Context Caching）大幅降低 Agent Harness 的 token 成本。文章指出无状态 LLM 在多轮编码循环中会重复传输静态代码库导致 token 累积和成本暴涨，并剖析了前缀破坏陷阱——缓存要求提示词从第 0 个 token 起字节级匹配，动态变量必须放在提示词末尾。作者展示了服务端缓存的工作原理及双重节省模型（带宽节省与缓存 token 0.25 倍计费），并通过 CachePayloadBuilder 和 ContextCacheManager 实现缓存流水线。实测三个场景显示传输 token 减少 74%-79%。最后给出决策树：上下文小于 32768 token 或少于三轮时不应缓存。
本文介绍如何通过上下文压缩代理 headroom 减少 Agent 调用 Gemini 模型时的 token 消耗。作者指出 agent 上下文中大部分 token 来自工具输出的冗余 JSON、日志和搜索结果，而非精心设计的提示词。通过在 Gemini 3.8 Flash 前部署 headroom 代理，在四种生产级 agent 工作负载测试中，prompt token 减少 76%，任务准确率保持 100%，首 token 时间有所改善，建模成本下降约 70%。文章同时诚实探讨了压缩的有损性：压缩器保留模式、分布和异常值，但会丢弃普通记录，模型在数据缺失时会拒绝编造。项目开源且可复现。
本文介绍如何在 Google Cloud 的 Gemini Enterprise Agent Platform 上同时配置 Anthropic Claude Fable 5.1 与 Google Gemini 3.8 Flash 两款模型，并通过任务路由优化 token 成本（tokenomics）。作者指出单一模型路由全部任务是错误的：深度规划模型处理日常事务会浪费成本，而快速模型处理不可逆的复杂任务风险很大。文章详细演示了启用 Claude Fable 5.1 所需的数据共享配置（setPublisherModelConfig API）、Gemini 3.8 Flash 的调用方式，并建议先对常规任务做基准测试，以快速模型作为一线协调者、深度规划模型按需升级处理，从而大幅提升任务 ROI。
文章探讨 LLM 路由（LLM Routing）的成本悖论：理论上将简单任务分配给廉价模型可节省大量成本（如 RouteLLM 实现约 85% 降本），Uber 因给 5000 名工程师统一部署 Claude Code 导致年度 AI 预算提前耗尽的案例也说明单一模型定价的问题。但传统路由方案在生产中会因四大失败模式而失效：分类调用额外计费、通用模型意图识别能力差、路由逻辑缺乏评估易腐化、以及模型切换破坏 KV 缓存导致全价重算。文章随后介绍 DigitalOcean 基于开源代理 Plano 的基础设施级路由方案：使用 1.5B 参数的专用路由模型（Arch-Router / Plano-Orchestrator）在代理内完成意图解析，准确率超越前沿大模型且更快，再结合成本与延迟数据对候选模型池按策略排序，实现成本与质量兼顾的动态路由。
Google 在 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 模型上推出 agentic video understanding（智能体式视频理解）功能。该功能让模型主动决定观看内容、速度和模态（画面、音频或字幕），动态检索和检查视频片段，而非按固定帧率静态处理。基准测试显示，成本最高降低 66%，token 消耗最高降低 88%，准确率提升最高 7%，在长视频分析中优势尤为明显。新能力包括亚秒级片段检索、长视频大海捞针式搜索、异常检测和精确计数等。该功能已通过 Gemini API、Google AI Studio 和 Gemini Enterprise Agent Platform 开放，未来将集成到 Gemini 应用和 YouTube 的 Ask YouTube 功能中。
作者发现验证Agent成员是否存活时，一句简单的「收到」竟消耗两万个token，原因是每次对话都要重新装配成员的身份、记忆、技能清单等。文章剖析了Agent成本的三层「过路费」结构：身份装配、上下文搬运和格式开销，指出七成token花在空驶而非思考上。作者提出三刀止损法：利用前缀缓存把不变内容前置、健康探针直连绕过人格装配、协作转手只传摘要。实施后成本降了一半以上，但同时也暴露出便宜诱发滥用、缓存惩罚变动等新问题，并引出本地化部署的机会成本与主权优势思考。
本文介绍了在大规模AI应用中优化token成本的四大实用支柱：一是上下文缓存与Agent循环修剪，通过裁剪中间工具输出和总结历史步骤保持提示精简，利用缓存可获最高75%的输入折扣；二是实时与批量推理，将非紧急任务如工单汇总、报告生成等打包为异步批处理，可享50%折扣；三是设置思考预算，避免推理模型在简单任务上消耗数千隐藏思考token；四是模型合理选型与持续评估，90%的任务应使用最小最便宜的模型，并通过自动化评估及时更换高效模型，配合Apigee AI Gateway等企业网关实现智能路由与安全防护。
文章指出企业AI token开销可削减90%以上，关键在于改变自动化设计思路。多数企业工作流本质上是确定性的，大部分步骤可用普通代码完成，仅在需要判断的环节才需要模型。作者提出不应以整个工作流为自动化单位，而应拆分为单个任务，分别评估智能需求，采用最小可用模型，并利用缓存复用已知输出。其团队采用90/9/1模型分配策略（90%非前沿模型、9%近前沿、1%前沿），实现以最低token成本获取最大效率提升，强调应衡量智能的ROI而非原始开销。
本文探讨了模型路由为何应置于代理的harness中而非网关层。随着代理部署扩大，推理成本上升，模型路由成为控制成本的关键。作者基于生产数据指出，harness层路由可降低58%成本且不损质量，因为harness能结合会话缓存、任务状态和结果来动态选择模型，而网关缺乏这些上下文。文章强调，模型切换需权衡缓存失效成本，只有harness能判断何时切换最经济。
本期早报围绕推理计算的经济与工程展开。YC Paper Club 分享拆解推理请求生命周期，涵盖路由、缓存、分词调度、编译优化与服务质量监测，强调训练之后的服务开销巨大且需要系统性优化；Amazon CEO Andy Jassy 访谈解释了 2026 年 2200 亿美元资本开支背后的建设周期、现金流压力与企业 AI 应用的杠铃格局，指出推理降价将打开更多采用场景；Naveen Rao 则从能源效率视角讨论模型、硬件协同设计，预测推理可能成为 10 万亿美元市场，并探讨规格定义与验证在 AI 自动化交付中的关键作用。速览部分还涉及模型越界安全评估、桥水知识库建设和 AI 个人助理产品竞争。
作者分享了使用 Claude Code（Opus 5.5）批量制作资讯类竖屏短视频的完整工作流。核心步骤包括：选题（AI 粗选、人工精选，信息源以推特和 Hacker News 为主）、素材准备（Gemini API 写脚本和 TTS 配音、Suno 背景音乐、背景图、logo 等）、编写初始提示词、让 Agent 撰写脚本并派子 agent 做对抗式审查、反复修改脚本与成片。文中提供了可直接复用的提示词模板，并开源了包含 18 套竖屏视频风格的 Claude Code skill（creator-style-kit），可用于固定视频的字体、配色、动效与音效风格。
文章针对 AI Agent 开发中记忆缺失、RAG 低信噪比切片、状态冲突与多主体污染三大痛点，测评了 EverOS Cloud（API v2）这一 Agent 记忆操作系统。核心机制包括语义事件切割、记忆整合消解冲突、多主体严格隔离，在 LoCoMo 基准上达 93.05% SOTA，减少 90% 以上 Token 消耗。其自进化技能引擎可将任务执行链路沉淀为 Case 并蒸馏为可复用 Skill，任务成功率最高提升 234.8%。接入仅需两行核心调用，支持记忆治理 API、多模态资料挂载、MCP 协议兼容 Claude Code 等工具，以及云/本地双模部署。作者认为其适合需要跨会话跟踪意图与沉淀业务 SOP 的场景。
作者以自媒体真实工作场景实测Google新发布的Gemini 4 Argon模型。通过鹈鹕骑自行车SVG动画、爆款视频拆解与提示词还原、公众号文章风格分析与选题生成、五道前端实战题（数据看板、3D宫殿、品牌官网、浏览器合成器等）进行评测。结论是该模型跑分第一，长视频理解和前端能力出色，写作能力介于Claude Opus和GPT之间，并提醒读者注意订阅档位和API优惠价截止时间。
