Wiki 知识库

全部文档 / 标签: 技术原理

8 篇
清除

什么是具身智能?它跟 AI 的关系是什么?

文章深入解析了具身智能的定义、历史渊源及发展现状。作者区分了具身智能与传统机器人,指出其核心在于感知-行动闭环与物理世界的实时交互。文章回顾了从符号主义、行为主义到深度学习、Transformer时代的技术演进,分析了VLA模型如何继承大模型能力来突破泛化难题,探讨其与AI的本质关系及未来前景。

技术 › LLM snowboat 2026-06-1745.1 KB 11.6K 21

How to Build LLM Architectures From Scratch

本文是一篇关于从零构建大型语言模型(LLM)架构的深度指南。文章详细解释了 LLM 的工作原理,包括从原始数据收集、清洗、分词,到 Transformer 架构的核心组件(如自注意力机制、位置编码)。同时涵盖了预训练、微调、基于人类反馈的强化学习(RLHF)以及推理优化等关键技术环节,旨在帮助读者理解 ChatGPT 和 Claude 等模型背后的系统构建全流程。

技术 › LLM Shabnam Parveen 2026-05-2510.4 KB 58.2K 101 49

终极指南:Attention 机制、QKV 与 KV Cache

本文深入剖析了 AI 领域核心的注意力机制。文章回顾了 Attention 从早期神经机器翻译到 Transformer 架构的演变历史,详细解析了其解决固定长度向量瓶颈的原理。同时,通过图文并茂的方式,逐步拆解了从 Embedding 到上下文表示的过程,重点阐述了 Queries、Keys、Values (QKV) 机制的运作逻辑及其在现代大模型中的关键作用。

技术 › LLM Turing Post 2026-05-156.5 KB 14.2K 236 38

LLM 推理原理:从 Prompt 到流式响应的全流程解析

文章深入剖析了大语言模型(LLM)的推理过程。首先介绍了文本如何通过分词和嵌入转换为向量,接着详细解释了 Transformer 层中的自注意力机制与前馈网络如何协同工作。文章重点揭示了推理过程的两个不同阶段:处理输入时的“预填充”阶段受算力限制,而生成输出时的“解码”阶段受内存带宽限制,这种性能差异导致了首个token与后续token生成速度的不同。

技术 › LLM Akshay 2026-05-0313.8 KB 352.5K 849 71

解剖 Skill:Skill 工程化实战指南(二)

文章深入剖析了 AI 编程中 Skill 的内部结构与生命周期。作者指出 Skill 不仅是高级 Prompt,而是包含元数据、入参结构、核心提示词及执行器的标准件。文章详细解释了 Skill 从注册发现到意图匹配再到沙盒执行的全过程,并提出了判断何时封装 Skill 的三个标准,旨在帮助开发者通过工程化手段稳定 AI 输出。

技术 › Skill 老金 2026-04-307.2 KB 7.9K 128 71

你用的中转到底是怎么运行的?

本文深度拆解了 AI API 中转服务的运行原理,以开源网关 new-api 为例,详细阐述了从请求诞生到结果返回的全链路。文章涵盖了路由、鉴权、分发、转换、计费及容错等核心机制,并解析了渠道选择算法、流式传输及适配器模式等底层技术,揭示了中转站如何实现省钱、省事且稳定的 AI 服务调用。

技术 › 工具与效率 来碗牛肉粉, Sunny 2026-04-2411.3 KB 19.5K 184 84

一个 Token 的自我解剖:从分词到输出生成的全流程解析

文章以第一人称视角(Token),生动通俗地讲解了 Token 在大模型中的“一生”。内容涵盖 Token 的定义、分词方式(如 Byte-level BPE)、向量化原理、训练赋予语义的过程,以及在 Transformer 架构中通过 Q、K、V 和注意力机制进行指令处理与输出生成的完整技术链路。

技术 › LLM 程序员Left 2026-04-1614.7 KB 24.1K 47 65