杨植麟 GTC 2026 演讲：如何扩展 Kimi K2.5
杨植麟在 GTC 2026 演讲中，详细阐述了月之暗面如何通过重构优化器、注意力机制和残差连接这三大基础组件来提升模型性能。他提出了 MuonClip、Kimi Linear 和 Agent Swarm 等技术方案，旨在让 Token 更值钱、长上下文更有效，并实现多 Agent 协作，从而推动开源模型逼近闭源前沿。
全部文档 / 标签: 优化器
2 篇
12G 显存，够吗？——消费级 GPU 上做 LLM 算法研究的完整路线
本文探讨了在只有 12G 显存的消费级 GPU 上进行大语言模型（LLM）算法研究的可行路线。文章指出资源限制本身可以成为研究的起点，并重新定位了研究方向为对小模型的训练算法与适配方法做贡献。文章详细计算了 12G 显存的实际边界，提出了三条可行路线（训练算法优化、结构改动、RL/推理），并介绍了如何利用 HuggingFace 生态（包括官方 Model Trainer Skill）来搭建实验环境、选择模型以及设计严格的三层验证实验（机制验证、扩展验证、现实落地）。
