CAG：缓存增强生成，RAG的替代方案

文章介绍了缓存增强生成（CAG）作为一种替代经典RAG流水线的新方案。CAG通过将全部知识预加载到模型上下文并缓存KV Cache，显著提升响应速度，解决检索延迟和召回缺失问题。适用于中短篇幅静态文档，但对大规模或频繁变动数据仍需传统RAG或混合架构。