英伟达推理份额大降,AI革命进入二阶段机会在哪?
文章深入分析了 AI 从训练时代进入推理时代的投资机遇。随着推理成本占比提升至 80%-90%,算力需求呈几何级增长,但英伟达在推理市场的份额已下滑至 60-75%。AMD 凭借大显存优势及 OpenAI 等巨头的订单,正在抢占市场。ASIC 定制芯片也成新势力。文章对比了英伟达与 AMD的投资逻辑:英伟达仍是行业 beta,而 AMD 是份额转移的直接受益者。
文章深入分析了 AI 从训练时代进入推理时代的投资机遇。随着推理成本占比提升至 80%-90%,算力需求呈几何级增长,但英伟达在推理市场的份额已下滑至 60-75%。AMD 凭借大显存优势及 OpenAI 等巨头的订单,正在抢占市场。ASIC 定制芯片也成新势力。文章对比了英伟达与 AMD的投资逻辑:英伟达仍是行业 beta,而 AMD 是份额转移的直接受益者。
文章深入探讨了 AI 时代算力发展面临的物理瓶颈,指出光互联是解决 GPU 之间、机柜之间高速通信的关键路径。随着 AI 进入推理时代,大模型长上下文和 Agent 任务对带宽和延迟提出了极高要求,英伟达的 NVLink 协议虽然建立了深厚护城河,但铜缆技术已达极限,产业正加速向光互连(如 CPO、硅光子)转型。文中还详细对比了 Scale-up 与 Scale-out 架构,以及 UALink 开放联盟对英伟达的挑战。
本文深入分析了AI推理时代HBM(高带宽内存)成为新主角的原因,指出推理过程中数据搬运的耗时往往超过计算。文章详细解释了HBM的3D堆叠技术优势、HBM4采用先进逻辑工艺带来的产业链变化,以及SK海力士、三星、美光三大厂商的市场份额与技术路线竞争,并探讨了内存厂商在AI基础设施中获取超高利润的商业逻辑。