🏷️ 稀疏注意力

LongCat-2.0 深度技术解读

本文对美团发布的 LongCat-2.0 万亿参数大模型进行了深度技术拆解。文章涵盖了 MoE 架构与稀疏注意力（LSA）的优化、N-gram Embedding 的应用，以及在国产算力受限情况下的 6D 并行训练工程、超节点组网、推理加速等关键技术细节。

企业 AI 的真相：从列表记忆到图谱记忆

文章通过资深员工离职导致“组织记忆”流失的案例，剖析了当前企业 AI 协作工具的痛点。作者指出，主流的列表式记忆和密集注意力机制难以承载企业的核心决策上下文，而 Tanka 采用的图谱式记忆和稀疏注意力机制，通过构建实体关系网络，实现了真正的“组织记忆”沉淀。文章从技术架构、成本模型及适用场景三个维度，论证了为何这一路径是解决企业知识管理的未来方向。