全部文档 / 标签: Tokenizer

2 篇

Prefill & Decode made Crystal Clear

本文从第一性原理出发，逐步讲解 LLM 推理过程中 Prefill 和 Decode 两个阶段的真实含义。作者先介绍自回归模型逐 token 预测的基本机制，然后通过 ChatGPT 聊天的例子，展示文本如何经过分词、token ID、embedding 转化为 S×D 矩阵并进入 Transformer 层。重点澄清一个常见误解：处理输入 prompt 时模型并非逐个 token 顺序处理，而是因为所有输入 token 已知，可以并行处理——这一整个输入处理过程就是 Prefill。文章还引出因果掩码等问题，帮助读者建立对推理流程的正确直觉。

技术 › LLM

Abhinandan 2026-10-0326.3 KB 9.2K 133 64

LLM 推理 Prefill Decode Transformer 自回归 Tokenizer Embedding 原理讲解

一文了解大模型推理流程

文章系统讲解大模型推理的完整流程：输入文本先经Tokenizer切分为token并转换为token id，再通过Embedding转为带位置信息的语义向量；随后进入Prefill阶段，模型并行处理整个prompt，通过Transformer的Self-Attention计算Q、K、V并生成KV Cache，经Causal Mask确保不偷看未来token；最后经LM Head和softmax输出第一个token。进入Decode阶段后，逐个生成token、不断更新KV Cache，直到满足EOS、max_tokens或stop条件终止，最终反解码为文本输出。

技术 › LLM

Jerry Fang 2026-09-184.9 KB 1.4K 8 53

大模型推理 Prefill Decode Transformer KV Cache Tokenizer Embedding Causal Mask Sampling