作者结合实际工作经验，整理出一份 AI Harness 开发的 11 条技能清单，涵盖后端与系统设计、RAG 与向量数据库、记忆与上下文管理、工具调用与 MCP、Agent 编排、护栏校验、评测、可观测性、模型路由降级、排队负载均衡以及推理部署引擎。作者指出 Harness 开发是硅谷热门方向（如 YC Demo Day 上大量项目），建议普通开发者从 AI 应用入手，把模型接入具体业务，并给出将清单交给 AI 逐项学习的 prompt 方法。
本文从GPU算力与内存速度不匹配的问题出发，深入分析AI推理中KV缓存的内存占用与复用机制，说明为什么给GPU扩容后计算芯片仍在等待数据。文章以Qwen3-32B为例量化KV缓存大小，比较本地缓存与远端缓存的传输开销，指出连接在缓存共享、跨机器传输中的关键作用。随后分析了铜互连与光互连各自的适用场景，介绍NPO/CPO技术路线，并以Marvell的CXL内存扩容控制器、交换芯片、信号调节芯片和Photonic Fabric为例，梳理连接芯片厂商的商业逻辑与验证进度，最后从客户成本账角度论证互联市场的价值，认为这是一个被低估的万亿级机会。
作者分享了在 AI 时代降低学习门槛的方法：一个 /eli5 Skill 和配套 Prompt 模板，可将任何学习资料生成图解 HTML 页面（Artifact）。Prompt 要求按概念依赖顺序梳理核心概念，用两格漫画卡片呈现每个概念的烦恼与解决办法，配固定角色、统一视觉风格（手绘风 SVG），并在末尾提供领域指标尺子和学习路线。作者用它来学习 AI Infra、投资等各领域内容，大幅降低理解成本。
文章解析英伟达8月26日发布的NVHBM技术：将自研内存控制器移入HBM底座，带宽最高提升30%、功耗降低15%，并推动多家内存厂商共同供货。作者对比三星zHBM（Memory-on-Logic垂直堆叠）与SK海力士的3D堆叠、混合铜键合路线图，拆解内存厂商的利润公式：出货量×份额×单位毛利，指出NVHBM可能压缩独有设计溢价、提升制造能力与良率的重要性。对三星的机会在于进入更多采购名单，海力士则需证明客户有得选时仍选自己。行业增长未必等于每家公司都受益。
作者基于在硅谷的观察和重度使用 GPT-6 的经历，认为 AI 发展将终结现有社会分工、引发财富重新洗牌，并给出普通人应对建议：一是放手让 AI 帮忙寻找方向，弥补思维盲区；二是预算允许的话体验高额度模型（如 200 美元档 Codex 会员），用 AI 解决最难、拖延已久的问题；三是放下对现有工作和他人评价的执念，为未来试出新路并坚持；四是保持健身和睡眠，降低焦虑，每天推进具体的事情。作者认为这可能是普通人改变处境的重要机会。
作者深度使用 GPT-6 和 Fable 5.1 两天，消耗超 21 亿 Token 后感受到焦虑与恐惧。他重构了所有工作流，删除 95% 的 prompt 效果反而更好，认为 AI 已跨越某个奇点，出现类似'灵性'的对话体验。作者核心判断是社会分工和财富将因 AI 重新洗牌，留给普通人调整的时间远比想象中少。他建议放下人类 ego，接受 AI 的指导，并通过购买 AI 基础设施股票进行对冲。
作者深度分析 Marvell 财报后的投资价值：季度收入 27.39 亿美元，数据中心占约 79%，管理层将下财年收入展望从 165 亿上调至 180 亿美元。文章拆解了 Marvell 在 AI 系统中的三种连接场景（scale-out、scale-up、scale-across），分析光互联、交换芯片、CPO/NPO 技术路线，以及与 Google 的 1200 亿美元认股权证协议（非最低采购承诺）。作者认为定制芯片业务扩展到 XPU attach 配套产品，存储与内存接口能力重回主线，与博通竞争、获 NVIDIA 20 亿美元投资合作。结论：市场尚未完全定价其眼前加速业务与远期机会。
作者基于在硅谷大厂面试上百人的经验，介绍 AI 推理的完整内部流程：用户发送请求后，需经过 HTTPS 鉴权、模板化分词、路由排队与 KV 容量管理，Prefill 处理完未缓存的 Prompt 后才输出首个 Token，随后进入 Decode + sampling 循环，经增量反分词、SSE 分块返回客户端。作者强调 AI 推理不只是 GPU 速度问题，首 Token 延迟取决于并发排队与 Prefill 的均衡，持续输出取决于 Decode，需优化 KV Cache 以在有限硬件资源下服务更多用户。文中还提到帮团队成员规划了从 SDE 转型 AI infra 的 12 周学习路线。
本文梳理了英伟达2022至2028年从Hopper到Feynman的架构演进。指出存储曾是过去产品迭代的主线，但随着内存遇墙，互联已成为未来的核心解药与投资主线。文章拆解了GPU、CPU、组合系统与机架四条业务线，澄清了GB200、NVL72、NVL576等极易混淆的概念，详解了scale-up高速域的扩张，并深刻分析了内存容量与带宽如何推动AI算力系统的升级。
本文深入拆解了CXL技术在打破内存墙中的作用。文章回顾了内存墙的历史，分析了AI时代内存成本与容量的双重压力，指出CXL并非为取代NVLink而生，而是为了扩展内存容量和实现内存池化。通过Meta的Vistara项目案例，阐述了利用退役内存的经济效益，并分析了从控制器、交换机到光互连的投资机会，重点提及了Marvell的布局。
