📚 Wiki 知识库

全部文档

4 篇
清除

Step-By-Step LLM Engineering Projects (2026 Edition)

文章提出了一个基于项目的 2026 年 LLM 工程学习路线图。作者主张通过从零构建系统来掌握技术栈,路径涵盖从基础的 Tokenizer、Embedding、Positional Encoding、Attention 机制,到 Transformer 模块构建、训练循环、KV Cache、MoE、量化、服务部署、RAG 及 Agent 等高级系统。该指南强调“实现、绘制、破坏、解释”的学习闭环,旨在帮助读者深入理解大模型原理并具备工程构建能力。

技术LLM ✍ Ahmad🕐 2026-05-2524.3 KB

LLM 原理与实践指南 (2026 版)

这是一份关于大语言模型(LLM)的实践指南。文章从基础循环机制出发,详细解释了文本如何转化为 Token,以及 Transformer、注意力机制、KV Cache 和 RoPE 等核心概念的工作原理。作者强调理解模型内部的推理机制(如 Prefill 和 Decode 阶段)对于硬件选型、显存估算和本地部署的重要性。文章涵盖了 Token 化、上下文窗口、量化、模型服务及本地 AI 硬件数学计算等关键主题,旨在为深入理解 LLM 提供直观的基础。

技术LLM ✍ Ahmad🕐 2026-05-2356.1 KB

LLM 推理引擎与本地硬件指南 (2026 版)

文章阐述了选择 LLM 推理引擎的正确逻辑:先确定硬件策略、负载形态和服务模式,再选引擎。文章解析了推理引擎的核心功能(调度、内存管理、批处理)及性能瓶颈(显存带宽、KV Cache、互联),并详细对比了 llama.cpp、MLX、ExLlama、vLLM、TensorRT-LLM 等主流引擎的适用场景与优缺点。

技术LLM ✍ Ahmad🕐 2026-05-2120.6 KB

家庭实验室进化为私有云:基于 Proxmox 的架构实践

本文详细介绍了作者如何将原本杂乱的家庭实验室改造为具备云原生特性的私有控制平面。文章指出,核心差异在于引入了访问层、网关、路由策略、可搜索状态和计算通道,而非仅仅依赖本地硬件。作者利用 Proxmox 作为底层基础架构,通过 WireGuard 实现安全的 VPN 入口,结合 SNAT、私有 DNS/DHCP 等技术,构建了一个包含自动化平面、状态存储和计算织带的综合系统,实现了对数十个 LXC 容器和 VM 的统一、高效管理。

技术DevOps ✍ Ahmad🕐 2026-05-0123.9 KB