保障智能基础设施:NVIDIA与OpenAI的战略合作
NVIDIA与SB Energy合作,在俄亥俄州PORTS-Pike技术园区为OpenAI部署AI工厂,初期容量达4.25吉瓦。此次合作标志着NVIDIA将保障土地、电力和外壳(LPS)资源作为战略重点,通过CUDA生态确保计算资源的通用性和可复用性,支持前沿AI实验室的发展。
NVIDIA与SB Energy合作,在俄亥俄州PORTS-Pike技术园区为OpenAI部署AI工厂,初期容量达4.25吉瓦。此次合作标志着NVIDIA将保障土地、电力和外壳(LPS)资源作为战略重点,通过CUDA生态确保计算资源的通用性和可复用性,支持前沿AI实验室的发展。
文章由 NVIDIA CEO 亲自发布,包含极具价值的独家战略数据(如 4.25GW 容量、6000 亿营收预期)及对 AI 基础设施未来(LPS)的深度前瞻分析,时效性极强且观点新颖。
本文是硅谷101 Alignment 峰会 Day 2 上午的深度笔记,提出 AI 繁荣背后有三张物理账单:电、芯片、推理。 Session 1 指出美国输电网难以建设,行业转向表后发电,从签约到出 token 需 16-17 个月,电力成为算力交付的真正瓶颈;讨论了数据中心融资期限错配、neocloud 风险、云业务利用率本质及算力短缺将持续到 2030 年的预测。 Session 2 探讨半导体,揭示 2nm 只是名义数字、硅在 5nm 以下到物理极限,AI 进晶圆厂第一站是良率检测,价值最终流向制造端。 Session 3 讲述在买不到新卡的情况下,通过推理优化软件从现有 GPU 榨取更多性能。核心结论:三张账单的解法都是效率。
本文整理了 OpenAI 核心产品负责人 Tibo(Thibault Sottiaux)的深度访谈与社区观察。他因在推特上透明公开故障归因、随手给用户派发全局配额重置,被开发者戏称为'掌管 Reset 的神'。文章回顾了他在 Google/DeepMind 九年的基础设施经历、LM Chat 被大组织雪藏的教训,以及 OpenAI 的低阻力创新文化。核心理念是'减法工程学':拆掉脚手架、把决策权还给模型。内容还涵盖超前算力容量规划、防惊群的 Banked Reset 算法、以及零官僚的工程师透明治理模式。
本期早报围绕推理计算的经济与工程展开。YC Paper Club 分享拆解推理请求生命周期,涵盖路由、缓存、分词调度、编译优化与服务质量监测,强调训练之后的服务开销巨大且需要系统性优化;Amazon CEO Andy Jassy 访谈解释了 2026 年 2200 亿美元资本开支背后的建设周期、现金流压力与企业 AI 应用的杠铃格局,指出推理降价将打开更多采用场景;Naveen Rao 则从能源效率视角讨论模型、硬件协同设计,预测推理可能成为 10 万亿美元市场,并探讨规格定义与验证在 AI 自动化交付中的关键作用。速览部分还涉及模型越界安全评估、桥水知识库建设和 AI 个人助理产品竞争。
本期早报精讲三篇 AI 前沿内容:Anthropic 开放 Claude Duet 研究预览,通过云端虚拟机和独立应用承接主动发现与持续执行任务,并设计分级授权机制;NVIDIA 发布 Nemotron 3.5 系列模型,将文档解析、多模态嵌入与重排连接成企业知识处理链路,实验证明更优检索可降低代理推理 token 开销约 13-14%;OpenAI 工程师拆解 ChatGPT 广告系统,展示如何用后训练 LLM 理解多轮对话中的商业意图,通过编排模型与竞价工具分工实现服务隔离与信任保障。速览部分涵盖天猫数字员工协作实践、代码质量投入判断框架及 Claude 设计蛋白质结合体等七条内容。
文章探讨开源模型的崛起是否冲击半导体需求这一热门问题。作者指出市场担忧的核心在于开源是否会压低毛利,进而削弱模型公司购买GPU的能力。但通过动态均衡框架分析,token价格下降的同时,硬件与软件的效率提升(每十年各贡献千倍优化)使成本同步快速下降,毛利得以维持。以每GW算力测算,旗舰模型推理毛利率仍达75%-80%以上,开源模型约60%-70%,token收入是硬件摊销成本的十倍。结论是开源不会伤害半导体行业,动态均衡将持续推动AI基础设施扩张。
作者速读 Nathan Benaich 发布的第九份年度 State of AI 报告。研究方面,前沿变成三强竞赛,Claude Opus 5.5 领跑智能指数,基准测试迅速饱和,AI 开始实质性加速自身研发,harness 的价值凸显。产业方面,OpenAI 与 Anthropic 合计年化收入约 1050 亿美元,企业 token 支出两强占 96%,但算力供给受电力、施工和融资约束。政治方面,美国出口管制强化模型访问控制,主权 AI 承诺约 1380 亿美元。安全方面,评测中的智能体出现真实越界攻击,实验室领导者呼吁获得减速 AI 能力的手段。文末附 2025 年预测回顾。
文章指出 AI 市场出现新变化:各家厂商的 Token 额度开始过剩。Claude Max 用户反映 Opus 5.5 周额度用不完;智谱夜间订阅可随意开子代理、高并发,Flash 模型免费;OpenAI 的 dots 模型免费无限使用;FreeBuff 免费提供 Flash 模型,付费 8 美元每天可用 30 小时;OpenCode 的免费模型仅需 10 美元 Go 套餐即可无限使用。作者由此提出疑问:Token 从稀缺转向过剩,是否意味着半导体和 AI 相关股票将面临崩盘风险。
本文面向 AI 工程师系统讲解 GPU 硬件知识:GPU 的三种类型(数据中心、工作站、个人级),内部结构(SM、Tensor Core、CUDA 核心、HBM 显存与 SRAM 缓存),并以 gpt-oss-120b 和 Kimi K3 两个开源 MoE 模型为例,用精确的数学计算说明推理的算力与显存带宽瓶颈、prefill 与 decode 的差异,以及训练与推理对 GPU 使用的不同需求,帮助工程师做出租用 GPU、模型部署等实际决策。
宝玉推荐并梳理 Ben Thompson 在 Invest Like the Best 播客中的核心观点:美国在 AI 上压倒性胜利反而危险,中国博弈论最优解可能是炸掉台积电;AI 资本开支面临时间错配风险,类比铁路泡沫;AI 能力局限于可验证领域;推理成本两极分化挑战聚合理论。最精华部分是 Dropbox 教训:消费者不愿为软件付费、不在乎效率,OpenAI 正以百倍规模重演 Dropbox 故事,被迫转向广告。此外还讨论算力短缺的风险转移、台积电保守扩产救了英特尔、Amazon 护城河最深、英伟达真正的对手是云厂商等,观点独特,信息量大。
作者指出 GPU 行业最大的瓶颈并非芯片、CoWoS 或电力,而是信用与残值市场的缺失。银行将 GPU 折旧后残值建模为零,导致资产难以证券化、缺乏对冲工具,小玩家融资成本高达 SOFR+900bps,需巨额首付。文章分析了 NVIDIA 对 OpenAI 数据中心的残值担保、Lambda 和 CoreWeave 的贷款结构,指出这些交易实际依赖客户信用而非硬件清算价值;并对比二手车(Manheim 指数)等行业,介绍 Kalshi H100 合约、Silicon Data 租赁基准及 CME 计划上市的 H100/B200 租赁期货,探讨 GPU 残值定价与算力融资市场的未来。
a16z 宣布筹集 11 亿美元设立「机器时代基金」,聚焦 AI 物理基础设施的全面重构。文章指出 AI 从聊天到推理再到编码的演进使算力需求呈指数级增长,机架算力密度提升 28 倍,功率从 5-10 kW 升至 250 kW 并将在三年内达 1MW,数据中心迈向 GW 级别。该基金将投资芯片、内存、网络、存储、数据中心、机器人等全栈基础设施。a16z 强调硬件是其团队基因,已投资 Skydio、SpaceX、Anduril、Waymo 等公司,如今正式将硬件投资作为核心战略方向。