Wiki 知识库

全部文档 / 标签: TPU

7 篇
清除

AI 每日早报:DeepSeek 开源推理框架、Google TPU 推理引擎与 Anthropic 的 AI 队友实践

本期早报聚焦三条主线:一是 DeepSeek 全面开源内部推理框架 DeepInfer 与生产级 Token 编解码组件 deepseek-recipe,覆盖分布式推理、推测解码、结构化输出等能力,兼容英伟达与昇腾平台;二是 Google 为 vLLM 和 SGLang 推出原生 PyTorch TPU 后端,通过 TorchTPU、分层缓存与 TPU Sync 优化多轮 Agent 场景下的推理性能;三是 Anthropic 团队分享 Claude 如何从问答助手成长为承担团队职责的协作伙伴,涵盖追踪表维护、内部应用开发与会议协调等案例。速览部分还介绍了小红书 ROSS 训练方法、FairStress 公平性评估基准、Dyna Robotics 机器人 Scaling Law 及 SGLang 低延迟模式。

技术 › LLM ginobefun 2026-10-2128.3 KB 1.7K 1 77

The Heartbeat Chip: 脉动阵列如何从1978年的报告演变为AI加速芯片

文章追溯了'脉动阵列'(Systolic Array)计算架构的历史:1978年CMU的Kung与Leiserson发表报告,提出处理器像心脏跳动般有节奏地计算并传递数据,让每个数据多次被利用,从而减少内存访问、节省能耗。这一思想影响了Google TPU的设计——其矩阵乘法单元正是基于脉动执行。2026年10月,开源项目openTPU展示AI Agent通过递归自我改进循环自主设计出可运行Qwen、Gemma和Phi模型的加速器,在退役数据中心FPGA卡上达到每秒80+ token的速度,让这一近半个世纪前的技术构想重新焕发生机。

技术 › 芯片 Brian Roemmele 2026-10-0818.3 KB 11.6K 23 69

Project Suncatcher:谷歌将AI算力送入太空的登月计划

谷歌宣布其长期研究项目Project Suncatcher即将进行首次轨道测试,通过SpaceX的Transporter-18任务发射一颗原型卫星,验证TPU芯片在太空环境中的表现。文章介绍了三大工程挑战:一是硬件生存能力,卫星需承受发射时的剧烈震动和高达10倍重力加速度的载荷,TPU还须抵御太空辐射,测试显示Trillium TPU可承受超过五年太空任务的辐射总电离剂量;二是散热问题,太空真空环境无空气对流,团队开发了热管加辐射器的冷却方案;三是卫星互联,未来卫星集群需通过高带宽激光通信保持连接。2027年计划发射两颗卫星进一步测试。

技术 › LLM Google 2026-09-256.9 KB 360.7K 2.8K 64

如何在 AI 领域赢得最大市场

文章探讨了计算历史上的专业化趋势,指出 AI 推理需求正在爆发,通用 GPU 已无法满足其对内存和能效的特定要求。文中以 Google 的 TPU 为例,介绍了定制化硬件的兴起。重点分析了初创公司 Etched 如何押注专用推理芯片,通过低电压推理和集群级内存技术,试图解决算力与能耗问题,抢占这一巨大的市场份额。

技术 › 芯片 Sarah Wang 2026-07-2410.2 KB 61.7K 192

Dan Niles 最新发声:Agentic AI 正在引发 10-100 倍 Token 爆炸

文章分析了 Dan Niles 对当前 AI 市场及宏观经济的最新洞察。核心观点包括:Google 凭借模型、芯片、现金流和云业务的完整闭环,成为未来 3-5 年最看好的 Mega Cap 公司;Agentic AI 的普及将导致 Token 需求暴增 10-100 倍,并提升 CPU 在硬件架构中的重要性;在投资策略上,需警惕油价与债收益率飙升带来的宏观风险,建议保持灵活仓位,重点关注 Google 及 CPU 厂商的结构性机会。

投资 › 股票 Saito 2026-05-1411.2 KB 7.8K 30 83

两小时激辩:黄仁勋谈 Nvidia 使命、TPU 竞争与出口管制

本文详细记录了黄仁勋与 Dwarkesh Patel 的两小时专访。黄仁勋重申了 Nvidia “输入电子,输出 Token” 的使命,并深入探讨了 CUDA 的生态护城河、供应链管理哲学以及对 GPU 定价的看法。针对 TPU 和 Trainium 的竞争,他认为专用芯片是特例而非趋势。文章最精彩的部分在于关于对华出口管制的激烈辩论,黄仁勋强烈反对将 AI 芯片武器化,认为限制出口只会倒逼中国实现完全自主化,让美国失去市场。

技术 › LLM 宝玉 2026-04-1829.1 KB 75.3K 309 70