📚 Wiki 知识库

什么是具身智能？它跟 AI 的关系是什么？

✍ snowboat🕐 2026-06-17📦 45.1 KB 🟢 已读 𝕏 文章列表

文章深入解析了具身智能的定义、历史渊源及发展现状。作者区分了具身智能与传统机器人，指出其核心在于感知-行动闭环与物理世界的实时交互。文章回顾了从符号主义、行为主义到深度学习、Transformer时代的技术演进，分析了VLA模型如何继承大模型能力来突破泛化难题，探讨其与AI的本质关系及未来前景。

具身智能VLA机器人Transformer人工智能AI技术原理深度学习大模型

🔗 相关文档

How to Build LLM Architectures From Scratch

本文是一篇关于从零构建大型语言模型（LLM）架构的深度指南。文章详细解释了 LLM 的工作原理，包括从原始数据收集、清洗、分词，到 Transformer 架构的核心组件（如自注意力机制、位置编码）。同时涵盖了预训练、微调、基于人类反馈的强化学习（RLHF）以及推理优化等关键技术环节，旨在帮助读者理解 ChatGPT 和 Claude 等模型背后的系统构建全流程。

技术 › LLM ✍ Shabnam Parveen🕐 2026-05-25
LLMTransformer架构设计RLHF深度学习人工智能模型训练OpenAIChatGPT技术原理

Mixture of Experts (MoE): Scaling AI with Specialized Models

文章深入探讨了混合专家模型（MoE），这是一种通过激活特定子网络来高效扩展 AI 模型的架构策略。文章回顾了 MoE 的历史背景，详细解释了其由门控网络和专家组成的结构及稀疏路由机制，并分析了其在 Transformer 中的应用、优势（如高效计算、参数扩展）以及面临的负载平衡和通信开销等挑战。

技术 › LLM ✍ Jayanth🕐 2026-05-07
MoE混合专家大模型架构设计Transformer稀疏路由AI深度学习模型扩展机器学习

什么是信息论？它和AI是什么关系？

文章深入浅出地讲解了信息论的起源、核心概念及其与人工智能的关系。内容涵盖香农在1948年奠定的信息论基础（如熵、比特、信道容量定理），回顾了奈奎斯特、哈特利及玻尔兹曼等前人的贡献，并探讨了交叉熵、KL散度等概念如何成为衡量AI模型误差的关键工具。文章指出，尽管信息论为AI提供了度量语言，但在解释智能本质上仍有局限。

技术 › LLM ✍ snowboat🕐 2026-07-11
信息论香农熵交叉熵人工智能AI深度学习科普基础知识数学

你不知道的具身智能：从小机器狗到 Optimus

本文记录了作者组装一台小机器狗的实践过程，并以此引出对具身智能技术栈的深度剖析。文章涵盖了从硬件选型（STM32, ESP32）到空间感知（SLAM, 3D表示），再到动作控制模型（VLA, RT系列）的演进，最后重点分析了 Tesla Optimus 在工程制造、时空分层与能耗上的技术难点。

技术 › 人工智能 ✍ Tw93🕐 2026-06-07
具身智能机器人VLASLAM硬件开发Tesla Optimus技术笔记机器狗

翻译：李飞飞关于世界模型的分类

本文基于李飞飞的观点，深入探讨了“世界模型”这一AI术语在当前语境下的定义与功能。文章通过强化学习中的POMDP框架，将世界模型系统分为三类：输出视觉观察的“渲染器”、输出物理状态的“模拟器”以及输出行动指令的“规划器”。作者指出，尽管渲染器目前商业应用最成熟，但模拟器作为连接视觉与行动的桥梁，是实现空间智能和通用机器人的关键。文章最后预测，这三类功能的边界将逐渐坍缩，最终融合为一个统一的、能够理解并交互物理世界的基础模型。

技术 › LLM ✍ Mr Panda🕐 2026-06-05
世界模型空间智能李飞飞强化学习AI具身智能模拟器计算机视觉机器人

20 张手绘图讲透 AI 核心概念

本文翻译整理了一组在 X 上广为流传的 AI 科普手绘图，涵盖从神经网络、Transformer 架构到大语言模型（LLM）的 20 个核心概念。作者不仅解释了 AI 底层运作原理（如分词、注意力机制），还介绍了模型优化手段（如微调、RLHF）及前沿应用架构（如 RAG、Agent、思维链），是一份简洁全面的 AI 技术入门指南。

技术 › LLM ✍ Jason Zhu🕐 2026-05-25
AI神经网络TransformerLLMAgentRAGRLHF科普手绘图深度学习

终极指南：Attention 机制、QKV 与 KV Cache

本文深入剖析了 AI 领域核心的注意力机制。文章回顾了 Attention 从早期神经机器翻译到 Transformer 架构的演变历史，详细解析了其解决固定长度向量瓶颈的原理。同时，通过图文并茂的方式，逐步拆解了从 Embedding 到上下文表示的过程，重点阐述了 Queries、Keys、Values (QKV) 机制的运作逻辑及其在现代大模型中的关键作用。

技术 › LLM ✍ Turing Post🕐 2026-05-15
Attention机制TransformerQKVDeepLearning技术原理人工智能神经网络LLM

LoRA - LLMs 的低秩适配详解

文章详细介绍了 LoRA (Low-Rank Adaptation) 技术，这是一种用于高效微调大型语言模型的方法。通过冻结原始权重并学习两个极小的低秩矩阵，LoRA 能够在保持模型性能的同时，大幅降低显存占用、训练成本和存储空间。文章还解释了 LoRA 的核心数学原理、具体实施步骤以及为何全量微调成本高昂的原因。

技术 › LLM ✍ Amit Shekhar🕐 2026-05-08
LLMLoRA微调深度学习Transformer模型优化低秩适配AI机器学习Parameter Efficient

大厂正在秘密开发的下一代架构：状态空间模型 SSM

本文探讨了科技巨头如 NVIDIA、Meta 和 Microsoft 正在秘密研发的状态空间模型（SSM），旨在解决 Transformer 架构在长序列处理中的计算和内存瓶颈。文章详细介绍了 SSM 的线性复杂度优势，并列举了 NVIDIA Nemotron-H 和 IBM Bamba-9B 等混合模型如何通过替换 Attention 层来提升推理速度和降低内存消耗。此外，文中还回顾了 S4 和 Mamba 等 SSM 架构的演变，展示了 SSM 在大模型未来的巨大潜力。

技术 › LLM ✍ Siddharth🕐 2026-05-06
SSMMambaTransformerLLM架构Nvidia推理优化人工智能深度学习

Paper List for AI beginners

这是一份针对计算机科学和数学专业大二学生的机器学习（ML）与强化学习（RL）入门阅读清单。清单分为四个部分：基础（如ResNet、Attention）、AI基础设施（如VAE、BERT、LoRA、Agent）、推理加速（如Linear Attention、Speculative Decoding）以及强化学习（如PPO、DPO、RLHF）。该列表由导师 Mingyang Yi 推荐，旨在帮助本科生构建系统的 AI 知识体系。

技术 › LLM ✍ Xiuyu Li🕐 2026-04-18
论文推荐机器学习深度学习强化学习大模型RLHFAgent推理加速学习指南Transformer