Wiki 知识库

全部文档 / 标签: HBM

14 篇
清除

Is ENGRAM free lunch? Does it not impact AI model quality?

文章深入分析Engram技术:将序列嵌入存储到可卸载至DRAM的嵌入表中,节省HBM内存、减少FLOPs,从而降低AI推理成本。在参数和训练预算相同的对照实验中,Engram-27B相比MoE-27B不仅没有降低性能,反而显著提升(MMLU从57.4升至60.4)。作者指出Engram参数分配存在约20-25%的最优区间,过高会挤占MoE专家参数损害性能,且不能完全替代FFN(FFN负责概念运算)。结论认为Engram确实是一种'免费午餐',DeepSeek、美团LongCat、Qwen等已采纳该技术。

技术 › LLM GDP 2026-09-2710.0 KB 38.3K 64 73

DeepSeek 采购华为昇腾芯片:The Information 报道中的细节解读

The Information 报道称,华为最早将于 2026 年 Q4 向 DeepSeek 大规模交付 16 万枚老款 950DT 芯片,用于内蒙古新数据中心,总价值约 26 亿美元,将是已知规模最大的华为 AI 芯片集群之一。文章分析指出,DeepSeek V4 延迟发布与华为芯片供应延迟有关,确定性比性价比更重要。华为昇腾芯片 2026 年实际产量受 HBM 短缺制约预计仅 20-30 万枚,远低于 75 万目标,封装产能也紧张。DeepSeek 同时自研推理芯片以避免依赖外部供应。文章认为中国大模型厂商在算力缺口下仍紧咬美国,值得尊重。

技术 › LLM 李不凯正在研究 (@libukai) 2026-09-223.3 KB 62

越来越值钱的互联:从存储到AI推理这条路,能让GPU少等一会儿,是被95%的人低估了的万亿市场

本文从GPU算力与内存速度不匹配的问题出发,深入分析AI推理中KV缓存的内存占用与复用机制,说明为什么给GPU扩容后计算芯片仍在等待数据。文章以Qwen3-32B为例量化KV缓存大小,比较本地缓存与远端缓存的传输开销,指出连接在缓存共享、跨机器传输中的关键作用。随后分析了铜互连与光互连各自的适用场景,介绍NPO/CPO技术路线,并以Marvell的CXL内存扩容控制器、交换芯片、信号调节芯片和Photonic Fabric为例,梳理连接芯片厂商的商业逻辑与验证进度,最后从客户成本账角度论证互联市场的价值,认为这是一个被低估的万亿级机会。

投资 › 股票 美研芒格君 2026-09-1220.7 KB 15.7K 95 83

NVHBM改写HBM规则,三家内存厂何去何从?

文章解析英伟达8月26日发布的NVHBM技术:将自研内存控制器移入HBM底座,带宽最高提升30%、功耗降低15%,并推动多家内存厂商共同供货。作者对比三星zHBM(Memory-on-Logic垂直堆叠)与SK海力士的3D堆叠、混合铜键合路线图,拆解内存厂商的利润公式:出货量×份额×单位毛利,指出NVHBM可能压缩独有设计溢价、提升制造能力与良率的重要性。对三星的机会在于进入更多采购名单,海力士则需证明客户有得选时仍选自己。行业增长未必等于每家公司都受益。

投资 › 股票 美研芒格君 2026-09-0826.2 KB 36.6K 230 75

先进封装入门:AI算力瓶颈与良率经济学

文章指出AI建设真正短缺的不是晶圆产能而是封装良率,CoWoS分配已成为AI算力的配给机制。作者从光刻曝光场858mm²的物理上限讲起,解释Chiplet兴起的必然性,并纠正了良率分拆的错误理解——真正的收益来自KGD(已知合格裸片)分拣。文章分析利润从OSAT转移到代工厂再转移到设备与材料供应商的逻辑,探讨3D堆叠散热难题、HBM演进路径,以及面板级封装转型带来的设备重置机会,揭示先进封装背后隐藏的制造供应链投资机会。

投资 › 股票 Nutty 2026-09-0623.2 KB 29.4K 169 90

AI基础设施的牛鞭效应

文章分析AI基础设施供应链中的牛鞭效应:从2023年GPU短缺开始,压力依次传导至内存、服务器CPU,再到2026年的大容量存储短缺。HBM生产挤占传统DRAM产能导致SSD价格暴涨,Agent工作流推动CPU需求上升。同时数据中心建设成本高达每吉瓦200亿美元,变压器和涡轮机交付周期长达数年。作者警告,若终端软件收入无法匹配巨额资本支出,2027-2028年新增产能交付时或将面临产能过剩危机。

投资 › 宏观经济 Tomasz Tunguz 2026-08-246.3 KB 40.9K 135 85

AIDC产业链真正的瓶颈:大幅回调后重新审视30家瓶颈公司

文章以供给稀缺、客户认证、竞争扩产与股价回撤四个维度,重新审视AIDC产业链30家瓶颈公司。结论是:真正具备产能、认证、交期或锁量证据的公司只占少数;瓶颈增强的同时竞争普遍加剧;回撤最大的小票往往瓶颈地位尚未验证。第一梯队包括AXT(InP衬底)、Tower(硅光代工)、联亚、AAOI、古河电工、Micron等,而Sivers、上诠等高热度小票仍属潜在瓶颈。回调提供了更便宜的价格,但没有自动提供更高的确定性。

投资 › 股票 rick awsb 2026-08-2426.4 KB 44.7K 105 85

英伟达算力演进与投资主线分析

本文梳理了英伟达2022至2028年从Hopper到Feynman的架构演进。指出存储曾是过去产品迭代的主线,但随着内存遇墙,互联已成为未来的核心解药与投资主线。文章拆解了GPU、CPU、组合系统与机架四条业务线,澄清了GB200、NVL72、NVL576等极易混淆的概念,详解了scale-up高速域的扩张,并深刻分析了内存容量与带宽如何推动AI算力系统的升级。

投资 › 股票 美研芒格君 2026-08-0923.1 KB 23K 169 95

Memory as a Service, 聪明钱已经开始暗中下注。耗时两周,深度拆解CXL,彻底搞懂打破内存墙的关键玩家

本文深入拆解了CXL技术在打破内存墙中的作用。文章回顾了内存墙的历史,分析了AI时代内存成本与容量的双重压力,指出CXL并非为取代NVLink而生,而是为了扩展内存容量和实现内存池化。通过Meta的Vistara项目案例,阐述了利用退役内存的经济效益,并分析了从控制器、交换机到光互连的投资机会,重点提及了Marvell的布局。

投资 › 宏观经济 美研芒格君 2026-07-1525.7 KB 243.4K 333

如果只选10只股票长期持仓:2026年AI资本开支流向分析

文章由Kova撰写,提出了一个基于2026年超大规模企业$300B+资本开支流向的AI投资4层模型(半导体制造、核心芯片、DC物理层、DC建造层)。基于此模型及Picks-and-shovels、Anti-correlation等原则,作者筛选出了包含LRCX、MU、VRT等在内的10只长线底仓股票,并详细阐述了每只标的的Thesis、权重配置及具体的退出与监控策略。

投资 › 股票 Kova 2026-05-1414.0 KB 150.9K 563 88

HBM全景研报:从训练到推理,主角不再是GPU

本文深入分析了AI推理时代HBM(高带宽内存)成为新主角的原因,指出推理过程中数据搬运的耗时往往超过计算。文章详细解释了HBM的3D堆叠技术优势、HBM4采用先进逻辑工艺带来的产业链变化,以及SK海力士、三星、美光三大厂商的市场份额与技术路线竞争,并探讨了内存厂商在AI基础设施中获取超高利润的商业逻辑。

投资 › 宏观经济 大宇 2026-05-0457.8 KB 285.8K 419 92

台积电这份报告,把AI算力真正的底层逻辑讲透了

文章深入解读了台积电2026年技术研讨会报告,指出半导体行业已进入由AI驱动的超级周期,预计2030年市场规模将达1.5万亿美元。核心观点包括:先进制程从单纯的节点微缩转向平台优化(如A16、A12的背面供电技术);竞争维度从“谁的晶体管更小”升级为“谁能把算力系统造出来”;以及算力增长的真实引擎在于CoWoS、SoIC等先进封装技术与HBM的系统级集成。

技术 › 半导体 qinbafrank 2026-05-0320.2 KB 96.2K 530 71

先进封装产业链全景:从 CoWoS 到 EMIB

本文详细拆解了 AI 时代先进封装(CoWoS/EMIB)的产业链现状与竞争格局。文章从底层概念出发,分析了台积电、英特尔、三星三条技术路线的差异,并深入探讨了硅中介层、ABF 载板、HBM 及上游设备与材料的供应瓶颈。随着 AI 芯片需求爆发,封装产能已成为制约出货的关键因素。

技术 › 半导体 Macro_Lin 2026-04-2115.3 KB 36K 189 85