这是一篇 CUDA 学习系列的第一篇笔记式文章，作者旨在从零基础带领读者掌握 CUDA 编程。文章首先解释 GPU 存在的原因：CPU 擅长串行计算，而矩阵乘法等 AI 核心操作天然可并行，因此 GPU 拥有大量 ALU 以实现高吞吐并行计算。随后介绍了 CPU 与 GPU 的架构差异，以及 GPU 的关键概念：全局内存（VRAM）、流式多处理器（SM）、块、线程和 32 线程的 warp，并指出全局内存到 SM 的数据传输效率极低。最后讲解了 CUDA 的网格-块-线程层级结构，并通过矩阵乘法示例演示如何编写 CUDA kernel。
本文梳理了英伟达2022至2028年从Hopper到Feynman的架构演进。指出存储曾是过去产品迭代的主线，但随着内存遇墙，互联已成为未来的核心解药与投资主线。文章拆解了GPU、CPU、组合系统与机架四条业务线，澄清了GB200、NVL72、NVL576等极易混淆的概念，详解了scale-up高速域的扩张，并深刻分析了内存容量与带宽如何推动AI算力系统的升级。
文章深入解读了台积电2026年技术研讨会报告，指出半导体行业已进入由AI驱动的超级周期，预计2030年市场规模将达1.5万亿美元。核心观点包括：先进制程从单纯的节点微缩转向平台优化（如A16、A12的背面供电技术）；竞争维度从“谁的晶体管更小”升级为“谁能把算力系统造出来”；以及算力增长的真实引擎在于CoWoS、SoIC等先进封装技术与HBM的系统级集成。
