📚 Wiki 知识库

🏷️ 硬件

7 篇

LLM 原理与实践指南 (2026 版)

这是一份关于大语言模型(LLM)的实践指南。文章从基础循环机制出发,详细解释了文本如何转化为 Token,以及 Transformer、注意力机制、KV Cache 和 RoPE 等核心概念的工作原理。作者强调理解模型内部的推理机制(如 Prefill 和 Decode 阶段)对于硬件选型、显存估算和本地部署的重要性。文章涵盖了 Token 化、上下文窗口、量化、模型服务及本地 AI 硬件数学计算等关键主题,旨在为深入理解 LLM 提供直观的基础。

技术LLM ✍ Ahmad🕐 2026-05-23

LLM 推理引擎与本地硬件指南 (2026 版)

文章阐述了选择 LLM 推理引擎的正确逻辑:先确定硬件策略、负载形态和服务模式,再选引擎。文章解析了推理引擎的核心功能(调度、内存管理、批处理)及性能瓶颈(显存带宽、KV Cache、互联),并详细对比了 llama.cpp、MLX、ExLlama、vLLM、TensorRT-LLM 等主流引擎的适用场景与优缺点。

技术LLM ✍ Ahmad🕐 2026-05-21

从GPU到云:AI算力基建的完整硬件链路解析

本文以通俗易懂的方式,从微观到宏观详细拆解了AI算力基础设施的物理构成。文章按照 HBM、GPU、PCB、服务器、机柜、计算中心到云的层级顺序,解析了各硬件的连接关系与核心作用,并补充了硅中介层、交换芯片、散热系统及数据中心与云的区别等关键知识点。

技术后端 ✍ 老马投资研究🕐 2026-05-18

AI算力狂飙下的“黑话词典”:一文读懂2026年科技圈高频缩写

文章整理了一份2026年科技圈的高频缩写表,涵盖AI算力、服务器硬件、网络互联、存储及模型架构等核心技术领域。通过通俗解读GPU、ASIC、CPO、LPO、MoE等关键术语,揭示了AI产业链的底层逻辑与未来技术演进方向。

技术产业趋势 ✍ 一起发财🕐 2026-05-04

YC 2026 夏季招募期望的 15 个 AI 前沿方向

本文解读了 YC 2026 夏季批次的 15 个重点招募方向,展现了 AI 重构各行业的创业浪潮。核心领域包括:AI 原生服务直接交付结果、企业“超级大脑”激活沉睡数据、智能体专用推理硬件、太空 AI 芯片与制造、精准医疗、动态软件界面及供应链升级等。文章指出,AI 正从软件延伸至物理世界(农业、军工),且代码成本骤降使得小团队有机会挑战传统 SaaS 巨头。

投资创投 ✍ 出海去孵化器🕐 2026-04-28