Wiki 知识库

全部文档 / 作者: 实践哥 Li / 标签: Token优化

3 篇
清除

搞懂缓存机制,从Gemma4到Claude Code省80%Token

本文通过本地实验与源码分析,深入解析了大模型的 KV 缓存机制。作者从 Transformer 注意力机制讲起,解释了为何多轮对话会出现 100 倍的加速差异。通过逆向 Claude Code,揭示了 Anthropic 精密的缓存工程策略(前缀匹配、TTL 机制)。最后,给出了具体的 Claude Code 使用姿势(如保护缓存前缀、避免切换模型),帮助用户将 Token 消耗降低 80%,实现同样的套餐多干 3-5 倍的活。

技术 › Claude 实践哥MinLi 2026-04-2011.6 KB 656K 1.6K 93

用好NotebookLM立省80%Token

文章指出直接将大量语料塞入Claude对话会导致Token消耗巨大且缓存利用率低。作者提出了一种优化方案:利用NotebookLM作为“老师”进行免费的知识库检索和带引用问答,仅将检索结果提供给Claude进行推理和编排。实测表明,该方案在研究、打新和知识库场景下可节省大量成本,但响应速度会降低。

技术 › 工具与效率 实践哥MinLi 2026-04-2017.1 KB 87

搞懂缓存机制,从Gemma4到Claude Code省80%Token

文章通过本地 Gemma4 实验发现大模型对话中存在 100 倍加速的现象,深入剖析了 Transformer 的 KV 缓存原理,并逆向分析了 Claude Code 的精密缓存工程。文章解释了为何连续对话比频繁开启新 Session 更省钱,指出破坏缓存的关键行为(如切换模型、修改 System Prompt),并提供了保护缓存以节省 80% Token 的具体使用姿势。

技术 › LLM 实践哥MinLi 2026-04-0711.3 KB 93