Wiki 知识库

全部文档 / 标签: token成本

10 篇
清除

AI 会让我们幸福吗?还是会让大家都完蛋?

文章从《纽约时报》关于硅谷为永久底层阶级做准备的报道切入,探讨 AI 提效是否真正产生社会价值,指出提效不等于价值创造。作者通过 CL 一周 token 账单的例子,说明顶级模型成本让普通人难以负担,可能加剧阶层分化。文章回顾工业革命历史,将 1776 年瓦特蒸汽机与 2026 年 AI 工厂类比,讲述打字员、手摇织工、动力织机、卢德运动、恩格斯停顿等历史事件,揭示技术变革中工人工资停滞、岗位被替代的规律,但也指出每次技术变革都会蕴育新机会,如打字员职业的诞生。最后推荐一期播客,建议从历史中寻找 AI 时代普通人出路的答案。

其他 › 杂谈 Orange AI 2026-10-1740.9 KB 19.1K 36 68

面向 coding agent 的 Jev 工程学

本文基于 Diogo Almeida 的设计笔记,从第一性原理重新审视 coding agent 的设计。作者以「如果没有 KV cache 会怎样设计」为切入点,揭示当前 agent 围绕缓存经济性形成的「只追加对话记录」范式的六大症状:路由失效、工具挤占上下文、压缩有损、子 agent 平庸、重启丢状态、内置能力争论。文章指出 token 主要消耗在读取与搜索而非写代码,并提出以 Jev 决策层为核心的方案:元注意力上下文组装、查询感知压缩、可见性阶梯、可编程权限、安全感知路由与三级工具披露,把上下文当作被有意组装而非偶然累积的对象。

技术 › Harness Engineering yibie 2026-09-2216.5 KB 8.9K 57 83

GPT-6 Astra省钱实战方法论万字拆解

文章针对GPT-6 Astra模型Token消耗高的问题,拆解了五个常见的用钱误区:只看模型单价不看任务总价(贵模型一次做对反而更省钱)、把无关资料全塞进上下文导致缓存成本暴涨、Agent跑偏后仍让其继续执行、所有任务都开最高推理强度、每一步都要人工审批打断流程。作者提出对应的省钱策略:精简上下文只保留四要素、给Agent设置刹车机制、分级使用推理强度、放权可逆操作只管控不可逆操作,并给出一段可直接使用的提示词模板。

技术 › OpenAI 马化晨 2026-09-075.8 KB 23.5K 71 80

省Token又快速,新一代的Agent - Pi

文章介绍了终端 Coding Agent Pi——一款上线约一年、GitHub 接近 10 万 Star 的开源工具。与 Claude Code、Codex 提供完整成品不同,Pi 走极简路线,仅保留读/写文件、精确修改和 Bash 四个核心工具,其余功能按需通过 Skill、Extension 和 Package 扩展。Databricks 测试显示相同模型下 Pi 的单任务成本可低至其他 Agent 的一半。文章从安装登录讲起,详细演示了多行输入、@ 引用文件、粘贴截图、!/!! 命令等日常操作,重点讲解了 Steer(任务中转向)与 Follow-up 追加任务的交互机制、Session 树状会话管理及 /compact 压缩策略,并介绍了 AGENTS.md 项目指令文件的写法与扩展体系,帮助用户低成本上手并掌控工作流。

技术 › Agent 苏乐 2026-08-2729.6 KB 97.5K 196 91

语义代码导航如何将 Agent Token 成本降低最多 36%

文章以微软和 Uber 的 AI 编程 Token 成本失控为引子,指出编码 Agent 的成本大头不在写代码,而在用文本搜索定位需要修改的位置。文本搜索存在三种失效场景:名称匹配过多、同名不同义、以及结构性关联无词可搜。解决方案是将代码库建模为图结构(类、方法、接口为节点,调用、继承等为边),让 Agent 直接进行结构化查询。实测显示该方法在四语言的六个任务中全部降低成本,最高降 36%,Sonar 的 Vortex 产品即基于此思路。

技术 › Agent Avi Chawla 2026-08-278.2 KB 26.1K 83 68

说一句收到,我花了20341个token——Agent成本的过路费与省钱三刀

作者发现验证Agent成员是否存活时,一句简单的「收到」竟消耗两万个token,原因是每次对话都要重新装配成员的身份、记忆、技能清单等。文章剖析了Agent成本的三层「过路费」结构:身份装配、上下文搬运和格式开销,指出七成token花在空驶而非思考上。作者提出三刀止损法:利用前缀缓存把不变内容前置、健康探针直连绕过人格装配、协作转手只传摘要。实施后成本降了一半以上,但同时也暴露出便宜诱发滥用、缓存惩罚变动等新问题,并引出本地化部署的机会成本与主权优势思考。

技术 › Agent AI最严厉的父亲 2026-08-2529.5 KB 8.6K 5 85

The Anatomy of a Claude Code Bill

本文基于对45人工程团队30天的Claude Code使用追踪,剖析了其账单构成:真实用户提示仅占输入token的14%,其余为静态系统开销、CLAUDE.md与Skills、MCP服务器schema、工具结果回放及历史上下文等配置性开销。文章指出Uber等大规模部署中人均月支出高达500-2000美元,并介绍了Comet在Opik中推出的Cost Intelligence代理插件,通过token级可观测性帮助团队识别浪费,15分钟审计可削减20-40%账单。

技术 › Claude Code Akshay 2026-08-2412.8 KB 18.1K 139 75

BestBlogs 早报 · 08-19:Claude Tag 值班、Agent 上下文成本实验与 AI Coding 四阶段

本期早报聚焦 AI 工程实践三大主题:一是 Anthropic 的 Claude Tag 作为 CI/CD 故障第一响应者,通过记忆、连接器、日程与 Skill 指令形成态势报告,中位 14 分钟发布首份有证据分析,并开源 oncall-kit;二是腾讯云开发者用实验检验 CodeGraph 与 RTK,发现单次输出缩短不等于整体成本下降,关键在于给对上下文而非少给;三是京东技术提出 AI Coding 工具、副驾、协作者、共生体四阶段框架,以验证成本决定人机分工。速览还包括 Google 智能体安全审查、LangSmith 自动评估器、水印合规等内容。

技术 › Agent ginobefun 2026-08-1927.5 KB 6.7K 3 80

Spend Less Tokens:如何削减90%以上的AI Token开销

文章指出企业AI token开销可削减90%以上,关键在于改变自动化设计思路。多数企业工作流本质上是确定性的,大部分步骤可用普通代码完成,仅在需要判断的环节才需要模型。作者提出不应以整个工作流为自动化单位,而应拆分为单个任务,分别评估智能需求,采用最小可用模型,并利用缓存复用已知输出。其团队采用90/9/1模型分配策略(90%非前沿模型、9%近前沿、1%前沿),实现以最低token成本获取最大效率提升,强调应衡量智能的ROI而非原始开销。

技术 › Agent vas 2026-08-1811.0 KB 148.7K 541 77

Agents 201: The Unit Shrank

文章探讨了 AI Agent 架构的演变。作者认为传统的单体 Agent 因 Token 成本过高和缺乏专业化而失效,基本单元应从“Agent”转变为更小的“Worker”。文章介绍了由 Worker、Function 和 Trigger 组成的全新编排模型,实现了更高效的模块化开发、灵活的架构模式以及安全运行时。

技术 › Agent Rohit Ghumare 2026-04-2421.5 KB 60.1K 160 84