Token计算:下一个十年的成本战争
文章指出,随着AI技术的发展,单一的“每百万Token成本”已不再是衡量支出的唯一标准。OpenAI、Anthropic等厂商引入了Session Runtime、Cache、Web Search及Outcome等多元化计费维度。这意味着企业必须从单纯的模型比价,转向针对不同任务的综合成本考量。AI经济的价值正在分层,底层资源作为“公用事业”商品化,而封装了行业Know-how和结果交付的上层服务,则将成为价值沉淀的新高地。
文章指出,随着AI技术的发展,单一的“每百万Token成本”已不再是衡量支出的唯一标准。OpenAI、Anthropic等厂商引入了Session Runtime、Cache、Web Search及Outcome等多元化计费维度。这意味着企业必须从单纯的模型比价,转向针对不同任务的综合成本考量。AI经济的价值正在分层,底层资源作为“公用事业”商品化,而封装了行业Know-how和结果交付的上层服务,则将成为价值沉淀的新高地。
文章信息丰富,深度剖析了Token计费向多维度计费演变的趋势,观点新颖,时效性强,但实用性一般,缺乏具体操作指南。
本文翻译自 Earendil Engineering 的《Prompt Caching In Agents》,系统讲解编程 Agent 中提示缓存的原理与实践。文章介绍了 KV 缓存的工作机制(prefill 与 decode 阶段)、缓存的两种存放方式(会话亲和性与分布式缓存)、前缀匹配对缓存命中的决定性作用,以及显式缓存与自动缓存的区别。还解释了为何修改工具定义会破坏缓存、TTL 过期导致短请求昂贵、缓存未命中的计费代价,以及 Pi 为何保持旧记录稳定而不激进剪枝,帮助读者在上下文、缓存复用、延迟与成本之间取得平衡。
文章梳理了曾鸣对颠覆性技术演化的三段论:AI 先成为通用基础设施,再催生海量新应用,最终诞生原生级现象级应用。2025 年 Token 成为 AI 时代共识度量衡,标志基础设施成熟;Open Claw 爆火开启 Agent 第二阶段;Agentic OS 属第三阶段,还需三五年。作者认为大模型公司本质是 AI 云公司,未来两年核心机会是打造 Agent 入口级产品,OpenAI 和 Anthropic 未必成为 AI 原生应用大赢家。另附曾鸣的公司四层分类:机会、战略、远见、使命驱动,强调使命须发自内心,外部认可驱动易受估值波动冲击。
Anthropic与OpenAI同日发布多款新模型:Claude Opus 5.5、GPT-6 Sol和Luna。作者详细评测了各模型的定位与表现:Opus 5.5作为Claude系列性价比模型,Coding能力达到SOTA,成本下降40%,速度提升30%,但Token消耗大;GPT-6 Sol和Luna主打降本,价格比上代便宜50%甚至低于Deepseek,Token效率出色、幻觉率大幅降低,但审美与细节能力有明显降级。作者指出两家公司差异化路线:Anthropic专注Coding通往AGI,OpenAI专注全面Agent能力,并给出不同场景下的模型选择建议。
文章从零讲解 Harness Engineering(线束工程)的概念:模型只负责生成文本,而 harness 是围绕模型的软件系统,负责将模型的输出转化为实际工作。作者通过 OpenAI、LangChain、Anthropic 的案例说明,不换模型也能大幅提升 Agent 能力,关键在于模型周围的系统建设。文章以'给文章添加点赞按钮'为例,逐步拆解 harness 的构成:给模型的六件套(tools、循环、记忆、上下文、工作环境、目标与验证),以及给用户的三件套(权限限制、可观测性、评估),展示了模型'提出请求'、harness'执行动作'的协作模式。
本文提供了一个为期14周的实战型AI工程师学习路线图,旨在解决初学者“只学不做”的困境。文章从环境搭建开始,详细列出了从AI基础、机器学习、深度学习到现代LLM工程及Agent开发的最佳免费资源(如OpenAI/Anthropic官方课程、Karpathy的教程等)。路线强调通过GitHub项目实践来理解原理,最终掌握部署与评估技能,真正从零开始构建可用的AI系统。
文章详细介绍了 Terraform 之父 Mitchell Hashimoto 的 AI 工程实践六个阶段,从早期的聊天窗口尝试,到最终实现后台常驻 Agent 的愿景。核心亮点在于第五阶段提出的“Harness Engineering”(工程约束),即通过系统性设计(如 AGENTS.md 和验证工具)来防止 Agent 重复犯错。文章结合 Anthropic 和 OpenAI 的行业案例,指出工程师的核心技能正从手写代码转向设计 Agent 的运行约束环境。
本期早报围绕智能体系统建设展开:一是 Anthropic 负责人解释 Claude 交付架构,将会话记录、运行框架与沙箱执行环境分离,使失败恢复不影响工作连续性;二是 LangChain 分享设计智能体的实践,将设计师的审美判断沉淀为技能与知识库,中位费用从 8 美元降至 0.50 美元;三是 Ai2 研究检验 LLM 判断研究想法新颖性的可靠性,发现提示词变化可导致准确率剧烈波动。此外还涵盖 Google A2UI 推理格式、Optiver 模型接入平台、小红书 AllSpark 数据管线及 K2 Lab 垂直 AI 产品等内容。
本文介绍了 Claude Code 团队在 AI 生成约 90% 代码的情况下如何重构代码评审流程。团队将代码评审从人工逐行阅读转变为分层自动化体系:包括 PR 前的 Claude 自验证、子代理 diff 审查、内部 skill(bug 猎捕、diff 缩减等)、以及每个 PR 的 AI 评审,仅将人类注意力保留给高风险决策。通过 CLAUDE.md 和 REVIEW.md 等文件向评审者注入项目上下文,并快速回滚机制兜底。6 月至 9 月间合并 PR 数量翻倍,回滚率下降超 40%,实现了用最少人工环节保障代码质量的目标。
文章通过梳理FDA及微软、OpenAI、Anthropic、Google等公布的实际案例,证明AI已在医疗领域真实落地:FDA已授权超1600种AI医疗设备,主要应用于医学影像、心脏疾病、糖尿病筛查等。大语言模型也进入医院工作流程,如微软Dragon Copilot服务超10万名临床医生,OpenAI帮助波士顿儿童医院节省6万小时工作时间,Claude助力Banner Health整理病历,Google辅助生成诊疗记录。作者指出需区分三个问题:技术已落地是事实,医疗AI市场正在形成但规模尚小,科技公司的巨额投资回报仍需时间验证。
本文是 Claude 官方文章的译文,探讨在构建 agent 系统时何时应将子 agent 折叠进主 agent 循环。文章指出,配备 skill 的单一 agent 在质量、成本和延迟方面常常优于多 agent 设计。作者分析了大型组织构建 agent 的常见失败模式(上下文管理、子 agent 泛滥、Frankenprompt、延迟等),介绍通过渐进式披露 skill 和 MCP 工具的 agent 循环设计,并给出将子 agent 迁移为单循环的分阶段方法:构建任务完成评估、合并领域 agent、将子 agent 转为工具调用、用 skill 和工具替代子 agent,以及多团队协作的治理模式。
文章系统解释了 AI 领域中 harness(套件/执行框架)的概念。作者指出 LLM 默认只能生成文本,要真正执行操作需要工具、调用语法、解析系统、结果回传和工具清单,这一切组成了 harness。文中区分了界面(如 Claude Code 的 TUI/GUI)与底层 harness(如 Anthropic Agent SDK、Codex App Server),并用厨房比喻说明 harness 与工具的关系。文章还解释了 MCP 的作用——类似'食谱',让代码可以在外部运行,以及 agent 的定义:LLM 与 harness 的结合体。
作者基于 Anthropic 工程师删除 Claude Code 80% 系统提示词却无性能损失的事实,反思提示词与 Agent Skill 的实践方法。提出提示词不是八股文,应聚焦任务三要素(目标、规则、完成标准),减少角色铺垫和冗余规则,多给思考方向而非僵硬示例,并设定明确验收标准。关于 Skill 沉淀,强调只有高频且流程稳定的任务才值得做成 Skill,要写入独特经验而非通识废话,严格控制单一职责与边界,主文件精简并渐进式加载,且必须内置自检环节形成质检闭环。