人工智能的工程全景：模型之外的另一半（上）
文章详细梳理了人工智能的工程基础，回顾了从GPU游戏显卡到英伟达CUDA生态建立的历史，解析了其技术护城河。同时指出2026年硬件格局的松动，分析了谷歌TPU的回归与AWS自研芯片的崛起，展示了英伟达在推理领域面临的竞争态势。
相关文档
这台卖37999的RTX Spark电脑，让我实现了Token自由
作者分享了使用英伟达RTX Spark笔记本（华硕ProArt创16，128G统一内存+1T，售价37999元）一周的深度体验。该设备结合了大内存与CUDA生态，解决了本地跑大模型要么选Mac要么受显卡显存限制的痛点。作者演示了通过WorkBuddy部署各类本地模型，包括Qwen3.8-27B大语言模型、图像生成、视频生成、OCR、ASR、TTS等，并打包成一个专家应用方便开箱即用。文章还讨论了AI全天候工作带来的成本问题，认为本地算力是实现Token自由、摆脱API费用束缚的关键方案。
AIPC选购指南：DGX Spark 还是 AMD 395？
文章对比了两款桌面跑大模型的设备：英伟达 DGX Spark（国行3.5万）与搭载 AMD Ryzen AI Max+ 395 的小主机（近2万）。两者均采用统一内存架构、128GB 内存，可装下 70B 级模型。核心结论：出字速度受内存带宽限制，两台几乎一样；读题（预填充）速度 Spark 快五到六倍，资料越长优势越大。文章还分析了各自优缺点、CUDA 生态、双机集群跑 DeepSeek-V4 的玩法及真实翻车案例。
AI算力狂飙下的“黑话词典”：一文读懂2026年科技圈高频缩写
文章整理了一份2026年科技圈的高频缩写表，涵盖AI算力、服务器硬件、网络互联、存储及模型架构等核心技术领域。通过通俗解读GPU、ASIC、CPO、LPO、MoE等关键术语，揭示了AI产业链的底层逻辑与未来技术演进方向。
英伟达推理份额大降，AI革命进入二阶段机会在哪？
文章深入分析了 AI 从训练时代进入推理时代的投资机遇。随着推理成本占比提升至 80%-90%，算力需求呈几何级增长，但英伟达在推理市场的份额已下滑至 60-75%。AMD 凭借大显存优势及 OpenAI 等巨头的订单，正在抢占市场。ASIC 定制芯片也成新势力。文章对比了英伟达与 AMD的投资逻辑：英伟达仍是行业 beta，而 AMD 是份额转移的直接受益者。
ESP32 + AI 能做什么？我调研了整个生态，给出保姆级种草指南！
作者在无硬件知识背景下，借助 Claude Code 等 AI 工具为 ESP32 开发板制作了多套固件，遇到 ESP32-C3 单核性能瓶颈后系统调研了 ESP32+AI 生态。文章介绍了小智 AI、StackChan、SenseCAP Watcher、ESP-Hi 机器狗等开源项目，讲解了 ESP32-C3/S3/P4 三款主力芯片的差异与选型要点，梳理了乐鑫芯片发展时间线，并按随身穿戴、视觉、语音对话、桌面机器人、屏幕游戏等场景给出保姆级硬件挑选指南。作者计划下一步打造一款带屏幕的桌面实体 Agent 交互终端。
AI 繁荣的三张账单——电、芯片、推理
本文是硅谷101 Alignment 峰会 Day 2 上午的深度笔记，提出 AI 繁荣背后有三张物理账单：电、芯片、推理。 Session 1 指出美国输电网难以建设，行业转向表后发电，从签约到出 token 需 16-17 个月，电力成为算力交付的真正瓶颈；讨论了数据中心融资期限错配、neocloud 风险、云业务利用率本质及算力短缺将持续到 2030 年的预测。 Session 2 探讨半导体，揭示 2nm 只是名义数字、硅在 5nm 以下到物理极限，AI 进晶圆厂第一站是良率检测，价值最终流向制造端。 Session 3 讲述在买不到新卡的情况下，通过推理优化软件从现有 GPU 榨取更多性能。核心结论：三张账单的解法都是效率。
游戏、软件、硬件，一切终将开源？
本文基于 Next Token 播客第五期内容，探讨 Opus 5.5 发布及 RSI 到来后，大模型对软件、硬件和游戏行业的巨大冲击。文章展示了 Opus 5.5 代码能力超越 99% 程序员的表现，分析游戏被反编译复刻、Mod 生态爆发、Adobe 类软件失去法律护城河、ESP32 硬件固件人人可改等现象，指出法律和生态已跟不上 AI 发展节奏。最后讨论了行业剩余机会：开放硬件入口给 Agent、软件转型为 Agent 插件，以及推理成本持续下降带来的免费化趋势。
Disaggregated Inference From The Ground Up
本文由 Cerebras 撰写，从基础原理讲解推理系统中的分离式推理技术。文章先介绍加速器的构成（计算单元与存储），并引入算术强度概念，通过矩阵加法与矩阵乘法的实例说明数据搬运与计算的关系。随后分析 LLM 推理的两个阶段：prefill（处理整个 prompt，计算密集型）与 decode（逐 token 生成，受限于内存带宽），解释二者对硬件需求的不同。Cerebras 提出异构分离式推理，将不同类型芯片分配给不同推理阶段，在相同硬件数量下将吞吐量提升 5 倍且不损失单用户生成速度。
机器学习系统：AI 工程的物理学（哈佛大学开源教材解读）
文章介绍了哈佛大学 Vijay Janapa Reddi 教授的开源教材《Machine Learning Systems: The Physics of AI Engineering》，两卷 33 章，旨在像 Hennessy & Patterson 的体系结构经典一样，将 ML 系统工程变为有定量定律的学科。全书以铁律、屋顶线模型、能耗阶梯、Amdahl 定律、漂移方程等核心定律组织内容：第一卷讲单机 ML 系统栈（数据、训练、压缩、硬件、服务、MLOps），第二卷讲集群规模化（分布式训练、3D 并行、容错、推理经济学、可持续 AI）。文章总结了书中'约束驱动''一切皆有价格''静默失败是默认模式'等核心世界观，并给出不同读者群体的阅读建议。
从零手写大模型系列完结了
作者宣布「从零手写大模型」系列完结，共20篇，包括推理篇15篇和训练篇5篇。推理篇涵盖分词器、嵌入层、位置编码、自注意力机制、多头注意力、残差连接、层归一化、Transformer模块等内容；训练篇涵盖损失函数、反向传播、梯度下降、Adam优化器和学习率调度。每篇都有可练习的代码示例，帮助读者理解模型如何生成文字以及如何从误差中学习更新参数。作者强调理论公式是精华，代码多被PyTorch封装。系列笔记已发布在个人网站上，欢迎交流指正。
DeepSeek，华为，「必须成功」：十六万颗萤火照进荒原
文章讲述了DeepSeek与华为两条看似毫无交集的技术路线如何走向深度结盟的故事。幻方量化创始人梁文锋早在2019年就囤积算力（萤火一号、二号），而华为通过海思备胎计划在实体清单后推出昇腾芯片。在英伟达对华禁售后，DeepSeek以极致工程能力用低配H800训练出V3和R1，震撼硅谷并引发英伟达市值暴跌。2026年，梁文锋押上200亿元，联合华为将下一代旗舰模型迁移到纯国产昇腾底座，并在内蒙古规划16万颗昇腾芯片的超大型数据中心。这是一场被地缘封锁逼出来的、别无选择的技术突围。
NVHBM改写HBM规则，三家内存厂何去何从？
文章解析英伟达8月26日发布的NVHBM技术：将自研内存控制器移入HBM底座，带宽最高提升30%、功耗降低15%，并推动多家内存厂商共同供货。作者对比三星zHBM（Memory-on-Logic垂直堆叠）与SK海力士的3D堆叠、混合铜键合路线图，拆解内存厂商的利润公式：出货量×份额×单位毛利，指出NVHBM可能压缩独有设计溢价、提升制造能力与良率的重要性。对三星的机会在于进入更多采购名单，海力士则需证明客户有得选时仍选自己。行业增长未必等于每家公司都受益。
