📚 Wiki 知识库

🏷️ NVIDIA

14 篇

从 Kimi K3 看下一代 MoE 架构的转折点:LatentMoE

文章分析了 2026 年大模型架构的新趋势 LatentMoE。通过对比 NVIDIA Nemotron 3 Super 和 Moonshot AI Kimi K3,揭示了 LatentMoE 如何通过将 token 投影到低维潜在空间,大幅降低内存和通信开销,从而在同等推理成本下激活更多专家,提升模型性能与效率。

技术LLM ✍ 青稞社区🕐 2026-07-20

BestBlogs 早报 · 07-17|Bun 借 AI 重写、Hook 堵越权、Nemotron 登顶检索

本期早报聚焦 AI 工程落地,精讲 Bun 用 64 个智能体 11 天重写 53.5 万行代码、腾讯 DECO 用 Hook 治理 LLM 偷懒越权、NVIDIA Nemotron 登顶检索榜。此外涵盖 Kimi K3、Inkling 模型、全双工语音等速览,强调竞争焦点从模型参数向工程实践迁移。

技术Harness Engineering ✍ ginobefun🕐 2026-07-17

四种护城河:一张表看清公司能否持续赚钱

文章指出相比于增长率和估值,护城河才是决定一家公司能否持续赚钱的关键。作者基于巴菲特的“城堡与护城河”理论,结合 Claude 开源的投研框架,详细拆解了网络效应、转换成本、规模优势和无形资产这四种护城河类型,并提供了一张量化评估表。文章通过英伟达和戴尔的对比分析,阐述了护城河深浅对利润率的决定性影响,同时纠正了将“先发优势”和“高增长”误判为护城河的常见误区。

投资股票 ✍ Innomad 一挪迈🕐 2026-05-18

英伟达(NVIDIA)AI 生态系统投资价值分析报告

本文分享了一份关于英伟达(NVIDIA)AI 生态系统的深度研报。作者指出该报告制作成本高昂且数据经过多次校准,认为是近期最具“钱途”的高质量研究。报告重点分析了英伟达在 AI 领域的生态布局,旨在为准备或已投资 AI 领域的投资者提供有价值的参考。

投资AI投资 ✍ Caroline(大叔)🕐 2026-05-12

Hugging Face 百大热门 AI 硬件配置分析

文章基于 Hugging Face 上近 30 万用户的硬件数据,分析了 AI 开发者的主流设备选择。关键发现包括:VRAM 容量比算力更重要(RTX 3060 12GB 最受欢迎);Apple 在 SoC 领域占主导,NVIDIA 统治独立显卡;AMD Ryzen 在 DIY 组装市场(尤其是 CPU+GPU 组合)超越 Intel;M4 芯片普及速度极快。数据揭示了本地 AI 硬件的高度碎片化特征。

技术硬件 ✍ clem🕐 2026-05-06

Top Companies Are Secretly Working on This (It Will Replace LLMs)

文章探讨了顶级科技公司正在秘密研发的架构转变——状态空间模型(SSM)。旨在解决 Transformer 架构在长序列处理中的计算成本高和内存消耗大的问题。文章详细解析了 SSM 的工作原理、相比 LLM 的优势(线性时间复杂度、恒定内存),并展示了 NVIDIA、IBM 和 Microsoft 等公司在 Nemotron、Bamba 和 SambaY 等混合架构上的实际应用进展。

技术LLM ✍ Siddharth🕐 2026-05-06

大厂正在秘密开发的下一代架构:状态空间模型 SSM

本文探讨了科技巨头如 NVIDIA、Meta 和 Microsoft 正在秘密研发的状态空间模型(SSM),旨在解决 Transformer 架构在长序列处理中的计算和内存瓶颈。文章详细介绍了 SSM 的线性复杂度优势,并列举了 NVIDIA Nemotron-H 和 IBM Bamba-9B 等混合模型如何通过替换 Attention 层来提升推理速度和降低内存消耗。此外,文中还回顾了 S4 和 Mamba 等 SSM 架构的演变,展示了 SSM 在大模型未来的巨大潜力。

技术LLM ✍ Siddharth🕐 2026-05-06

HBM全景研报:从训练到推理,主角不再是GPU

本文深入分析了AI推理时代HBM(高带宽内存)成为新主角的原因,指出推理过程中数据搬运的耗时往往超过计算。文章详细解释了HBM的3D堆叠技术优势、HBM4采用先进逻辑工艺带来的产业链变化,以及SK海力士、三星、美光三大厂商的市场份额与技术路线竞争,并探讨了内存厂商在AI基础设施中获取超高利润的商业逻辑。

投资宏观经济 ✍ 大宇🕐 2026-05-04

NVIDIA 推出 Nemotron 3 Nano Omni 开源多模态模型

NVIDIA 发布了开源多模态大模型 Nemotron 3 Nano Omni。该模型集成了视觉、语音和语言能力,旨在解决 AI 智能体在处理不同模态数据时面临的延迟和上下文碎片化问题。凭借 30B-A3B 混合专家架构,其在开放模型中实现了领先的准确吞吐比(9倍于同类),可广泛用于计算机控制、文档智能及音视频理解等企业级场景。

技术LLM ✍ NVIDIA🕐 2026-04-29

Physical AI: 机器人领域的 1000 亿美元新蓝海

文章深入剖析了 NVIDIA 在机器人领域构建的隐秘且强大的操作系统,这是一个由 Cosmos(想象力/仿真)、GR00T(大脑/推理)和 Newton(物理引擎/身体)组成的全栈技术体系。文章指出,虽然大众关注机器人的硬件动态,但 NVIDIA 通过开源 Cosmos Cookbook 等工具,已经为开发者解决了物理世界 AI 中数据稀缺和仿真模拟等核心难题,标志着机器人开发范式的根本性转变。

技术LLM ✍ Utkarsh🕐 2026-04-28

只需10步:Hermes 配置 NVIDIA 免费 Minimax-m2.7 大模型教程

本文是一篇实操教程,介绍了如何将 NVIDIA NIM 平台上免费提供的 Minimax-m2.7 大模型配置到 Hermes 工具中。作者详细列出了 10 个步骤,包括注册 NVIDIA 账号、获取有效期 12 个月的 API Key、配置 Base URL 以及最终完成测试。文章指出,虽然 NVIDIA 限制了每分钟 40 次请求,但对于个人日常使用绰绰有余,是体验大厂大模型基础设施的绝佳机会。

技术Hermes ✍ omegaAI🕐 2026-04-19

两小时激辩:黄仁勋谈 Nvidia 使命、TPU 竞争与出口管制

本文详细记录了黄仁勋与 Dwarkesh Patel 的两小时专访。黄仁勋重申了 Nvidia “输入电子,输出 Token” 的使命,并深入探讨了 CUDA 的生态护城河、供应链管理哲学以及对 GPU 定价的看法。针对 TPU 和 Trainium 的竞争,他认为专用芯片是特例而非趋势。文章最精彩的部分在于关于对华出口管制的激烈辩论,黄仁勋强烈反对将 AI 芯片武器化,认为限制出口只会倒逼中国实现完全自主化,让美国失去市场。

技术LLM ✍ 宝玉🕐 2026-04-18

黄仁勋最新访谈:谈Nvidia护城河、AI未来与中国算力

黄仁勋在2.4万字访谈中深入探讨了Nvidia的定位与护城河,反对AI取代就业论,强调智能体将指数级增长。他回顾了错失Anthropic投资的遗憾,解释为何不涉足云服务,并针对中国芯片限制提出“五层蛋糕”论,认为电力可弥补工艺差距,断供将迫使中国建立独立技术栈。

技术LLM ✍ 外汇交易员🕐 2026-04-16

免费大模型API服务商合集

本文整理了亲测好用的免费大模型API服务商,包括Nvidia NIM、火山方舟、openrouter和Google AI Studio。文章详细介绍了各平台的注册方式、免费额度策略及支持的模型(如DeepSeek、GLM-4.7等),并提供了相关链接,为开发者寻找低成本AI模型调用方案提供了实用指南。

技术LLM ✍ 大梦想家迪士尼🕐 2026-02-14