本文从GPU算力与内存速度不匹配的问题出发，深入分析AI推理中KV缓存的内存占用与复用机制，说明为什么给GPU扩容后计算芯片仍在等待数据。文章以Qwen3-32B为例量化KV缓存大小，比较本地缓存与远端缓存的传输开销，指出连接在缓存共享、跨机器传输中的关键作用。随后分析了铜互连与光互连各自的适用场景，介绍NPO/CPO技术路线，并以Marvell的CXL内存扩容控制器、交换芯片、信号调节芯片和Photonic Fabric为例，梳理连接芯片厂商的商业逻辑与验证进度，最后从客户成本账角度论证互联市场的价值，认为这是一个被低估的万亿级机会。
作者深度分析 Marvell 财报后的投资价值：季度收入 27.39 亿美元，数据中心占约 79%，管理层将下财年收入展望从 165 亿上调至 180 亿美元。文章拆解了 Marvell 在 AI 系统中的三种连接场景（scale-out、scale-up、scale-across），分析光互联、交换芯片、CPO/NPO 技术路线，以及与 Google 的 1200 亿美元认股权证协议（非最低采购承诺）。作者认为定制芯片业务扩展到 XPU attach 配套产品，存储与内存接口能力重回主线，与博通竞争、获 NVIDIA 20 亿美元投资合作。结论：市场尚未完全定价其眼前加速业务与远期机会。
本文深入拆解了CXL技术在打破内存墙中的作用。文章回顾了内存墙的历史，分析了AI时代内存成本与容量的双重压力，指出CXL并非为取代NVLink而生，而是为了扩展内存容量和实现内存池化。通过Meta的Vistara项目案例，阐述了利用退役内存的经济效益，并分析了从控制器、交换机到光互连的投资机会，重点提及了Marvell的布局。
