Wiki 知识库

全部文档 / 标签: 模型扩展

2 篇
清除

本周顶级 AI 论文精选 (8月10日-16日)

文章总结了本周五篇重要的 AI 研究论文。主要亮点包括:提出了更准确的 Skaling 扩展定律;揭露了加密思维链的安全漏洞并演示提取攻击;研究了多智能体系统中的思维病毒传播现象;分析了 Agent 编码指令无限增长的记忆问题;以及在工具调用场景下,程序化调用相比 JSON 的显著优势。

技术 › LLM DAIR.AI 2026-08-1714.7 KB 45.2K 106 81

Mixture of Experts (MoE): Scaling AI with Specialized Models

文章深入探讨了混合专家模型(MoE),这是一种通过激活特定子网络来高效扩展 AI 模型的架构策略。文章回顾了 MoE 的历史背景,详细解释了其由门控网络和专家组成的结构及稀疏路由机制,并分析了其在 Transformer 中的应用、优势(如高效计算、参数扩展)以及面临的负载平衡和通信开销等挑战。

技术 › LLM J Jayanth 2026-05-079.6 KB 64