HBM全景研报：从训练到推理，主角不再是GPU
本文深入分析了AI推理时代HBM（高带宽内存）成为新主角的原因，指出推理过程中数据搬运的耗时往往超过计算。文章详细解释了HBM的3D堆叠技术优势、HBM4采用先进逻辑工艺带来的产业链变化，以及SK海力士、三星、美光三大厂商的市场份额与技术路线竞争，并探讨了内存厂商在AI基础设施中获取超高利润的商业逻辑。
相关文档
NVHBM改写HBM规则，三家内存厂何去何从？
文章解析英伟达8月26日发布的NVHBM技术：将自研内存控制器移入HBM底座，带宽最高提升30%、功耗降低15%，并推动多家内存厂商共同供货。作者对比三星zHBM（Memory-on-Logic垂直堆叠）与SK海力士的3D堆叠、混合铜键合路线图，拆解内存厂商的利润公式：出货量×份额×单位毛利，指出NVHBM可能压缩独有设计溢价、提升制造能力与良率的重要性。对三星的机会在于进入更多采购名单，海力士则需证明客户有得选时仍选自己。行业增长未必等于每家公司都受益。
AI 繁荣的三张账单——电、芯片、推理
本文是硅谷101 Alignment 峰会 Day 2 上午的深度笔记，提出 AI 繁荣背后有三张物理账单：电、芯片、推理。 Session 1 指出美国输电网难以建设，行业转向表后发电，从签约到出 token 需 16-17 个月，电力成为算力交付的真正瓶颈；讨论了数据中心融资期限错配、neocloud 风险、云业务利用率本质及算力短缺将持续到 2030 年的预测。 Session 2 探讨半导体，揭示 2nm 只是名义数字、硅在 5nm 以下到物理极限，AI 进晶圆厂第一站是良率检测，价值最终流向制造端。 Session 3 讲述在买不到新卡的情况下，通过推理优化软件从现有 GPU 榨取更多性能。核心结论：三张账单的解法都是效率。
先进封装入门：AI算力瓶颈与良率经济学
文章指出AI建设真正短缺的不是晶圆产能而是封装良率，CoWoS分配已成为AI算力的配给机制。作者从光刻曝光场858mm²的物理上限讲起，解释Chiplet兴起的必然性，并纠正了良率分拆的错误理解——真正的收益来自KGD（已知合格裸片）分拣。文章分析利润从OSAT转移到代工厂再转移到设备与材料供应商的逻辑，探讨3D堆叠散热难题、HBM演进路径，以及面板级封装转型带来的设备重置机会，揭示先进封装背后隐藏的制造供应链投资机会。
AI基础设施的牛鞭效应
文章分析AI基础设施供应链中的牛鞭效应：从2023年GPU短缺开始，压力依次传导至内存、服务器CPU，再到2026年的大容量存储短缺。HBM生产挤占传统DRAM产能导致SSD价格暴涨，Agent工作流推动CPU需求上升。同时数据中心建设成本高达每吉瓦200亿美元，变压器和涡轮机交付周期长达数年。作者警告，若终端软件收入无法匹配巨额资本支出，2027-2028年新增产能交付时或将面临产能过剩危机。
英伟达算力演进与投资主线分析
本文梳理了英伟达2022至2028年从Hopper到Feynman的架构演进。指出存储曾是过去产品迭代的主线，但随着内存遇墙，互联已成为未来的核心解药与投资主线。文章拆解了GPU、CPU、组合系统与机架四条业务线，澄清了GB200、NVL72、NVL576等极易混淆的概念，详解了scale-up高速域的扩张，并深刻分析了内存容量与带宽如何推动AI算力系统的升级。
AI Semiconductor Endgame (IV)：开源模型对半导体的影响
文章探讨开源模型的崛起是否冲击半导体需求这一热门问题。作者指出市场担忧的核心在于开源是否会压低毛利，进而削弱模型公司购买GPU的能力。但通过动态均衡框架分析，token价格下降的同时，硬件与软件的效率提升（每十年各贡献千倍优化）使成本同步快速下降，毛利得以维持。以每GW算力测算，旗舰模型推理毛利率仍达75%-80%以上，开源模型约60%-70%，token收入是硬件摊销成本的十倍。结论是开源不会伤害半导体行业，动态均衡将持续推动AI基础设施扩张。
AI 工程师需要了解的 GPU 全部知识
本文面向 AI 工程师系统讲解 GPU 硬件知识：GPU 的三种类型（数据中心、工作站、个人级），内部结构（SM、Tensor Core、CUDA 核心、HBM 显存与 SRAM 缓存），并以 gpt-oss-120b 和 Kimi K3 两个开源 MoE 模型为例，用精确的数学计算说明推理的算力与显存带宽瓶颈、prefill 与 decode 的差异，以及训练与推理对 GPU 使用的不同需求，帮助工程师做出租用 GPU、模型部署等实际决策。
Let's Talk About Buying Compute
作者指出 GPU 行业最大的瓶颈并非芯片、CoWoS 或电力，而是信用与残值市场的缺失。银行将 GPU 折旧后残值建模为零，导致资产难以证券化、缺乏对冲工具，小玩家融资成本高达 SOFR+900bps，需巨额首付。文章分析了 NVIDIA 对 OpenAI 数据中心的残值担保、Lambda 和 CoreWeave 的贷款结构，指出这些交易实际依赖客户信用而非硬件清算价值；并对比二手车（Manheim 指数）等行业，介绍 Kalshi H100 合约、Silicon Data 租赁基准及 CME 计划上市的 H100/B200 租赁期货，探讨 GPU 残值定价与算力融资市场的未来。
Herman：现在是 1998 年！AI 泡沫还没来
本文是 168X 战情室访谈精华，半导体研究与高频交易背景的嘉宾 Herman 系统阐述了对 AI 行业与美股半导体的最新判断。他作为 6 月第一批看空者如今翻多：Anthropic ARR 下修等利空落地后市场未踩踏，杠杆已出清；锚定 Anthropic/OpenAI 是错的，二者只消耗 27% 算力，微软等 CSP 企业端盈利快速兑现，用卡回本周期极短。他判断当前类似 1998 年而非 2000 年互联网泡沫，真正泡沫尚未到来。节目还讨论开源模型改变 CSP 处境、存储高 margin 难以为继、补涨轮动到光/CPU/功率、Apple 扶持英特尔、老黄 5,000 亿基建融资局、币圈与散户建议等议题，并警示 token 用不满的人将先被淘汰。
AIDC产业链真正的瓶颈：大幅回调后重新审视30家瓶颈公司
文章以供给稀缺、客户认证、竞争扩产与股价回撤四个维度，重新审视AIDC产业链30家瓶颈公司。结论是：真正具备产能、认证、交期或锁量证据的公司只占少数；瓶颈增强的同时竞争普遍加剧；回撤最大的小票往往瓶颈地位尚未验证。第一梯队包括AXT（InP衬底）、Tower（硅光代工）、联亚、AAOI、古河电工、Micron等，而Sivers、上诠等高热度小票仍属潜在瓶颈。回调提供了更便宜的价格，但没有自动提供更高的确定性。
保障智能基础设施：NVIDIA与OpenAI的战略合作
NVIDIA与SB Energy合作，在俄亥俄州PORTS-Pike技术园区为OpenAI部署AI工厂，初期容量达4.25吉瓦。此次合作标志着NVIDIA将保障土地、电力和外壳（LPS）资源作为战略重点，通过CUDA生态确保计算资源的通用性和可复用性，支持前沿AI实验室的发展。
Frank全景拆解八月市场：去杠杆接近尾声，下一轮机会在哪里？
本文是Frank在OKX星球直播中的观点整理。Frank认为7月美股调整源于高杠杆和拥挤交易，去杠杆接近尾声，8月可相对乐观。他看好企业AI工程化带来的云厂商价值重估，以及光互联等半导体上游机会，同时提醒关注油价、长端收益率、选举和流动性风险。对于BTC和黄金，他建议关注配置区间而非绝对点位。
