Wiki 知识库

全部文档 / 作者: WquGuru / 标签: DeepSeek

3 篇
清除

图解 KV Cache——DS V4.1-Flash的制胜秘密

本文图解 DeepSeek V4.1-Flash 如何将单 token 全局 KV Cache 从 V1 的 389KB 压缩至 890 字节。文章先介绍 KV Cache 原理与显存瓶颈,再梳理 GQA、MLA、量化、稀疏注意力、跨层复用等六次关键突破,最后详解 V4.1 在架构、精度、部署三层的联合优化,包括 CED、CSA2 三模式、层级稀疏索引器与 FP4 量化,并给出 890 字节的推导过程。

技术 › LLM WquGuru 2026-09-1423.6 KB 68.6K 376 83

Gemini预训练负责人总结:如何进入头部AI团队的10条经验

Gemini预训练团队负责人撰文分享如何进入头部AI实验室。文章指出顶尖人才普遍具备方向准、数学硬、拼劲足三大特质。针对普通人,作者建议避开正面竞争,转而在底层优化或上层Agent系统发力,强调了开源项目、数学基础、动手复现及长期坚持的重要性。

职场 › 职业发展 WquGuru 2026-06-273.6 KB

pi-goal 源码解析与实测:DeepSeek 性能竟比 Gemini 好 30 倍

文章深入解析了 pi-goal 这一长程目标自动循环工具的源码机制,并设计了高难度的 Karpathy 开源项目洞察任务,对 Gemini、Claude 和 DeepSeek 三款模型进行了同台实测。结果表明,DeepSeek V4 Pro 在成本上仅是 Gemini 的 1/31,质量却更优。文章还发现过度推理会增加幻觉,以及软预算机制可作为模型行为探针,并指出了 pi-goal 在审计验证上的盲区。

技术 › Harness Engineering WquGuru 2026-05-2315.4 KB 113.8K 254 87