Wiki 知识库

全部文档 / 作者: vixhal / 标签: 线性代数

3 篇
清除

The Math Needed for AI Inference Engineering (Complete Roadmap)

本文系统梳理了AI推理工程所需的核心数学知识路线图。内容涵盖:浮点数表示(FP32/FP16/BF16/FP8/INT8等格式的位分配与精度/范围权衡)、舍入误差累积、溢出与下溢、机器epsilon、灾难性消除及稳定softmax与log-sum-exp技巧;量化数学,包括scale与zero-point线性映射、对称/非对称量化、粒度选择、范围裁剪、激活离群值处理及基于Hessian的曲率方法;以及线性代数计算成本分析,如矩阵乘法的浮点运算量与内存读写开销估算。作者强调在性能分析前能手算层耗时是推理工程中最有价值的习惯。

技术 › LLM vixhaℓ 2026-09-0827.9 KB 93.1K 870 85

人工智能/机器学习数学基础与学习路径

文章详细阐述了掌握人工智能和机器学习所需的三大数学支柱:统计学与概率、线性代数以及微积分。作者不仅解释了每个领域的核心概念(如贝叶斯定理、矩阵分解和梯度优化),还强调了它们在 AI 模型(如神经网络、回归)中的实际应用。最后,作者分享了一条个性化的学习路线图,推荐了 3Blue1Brown、Coursera 课程及《统计学习导论》等优质资源,帮助读者从直观理解过渡到理论实践。

技术 › 机器学习 vixhaℓ 2026-07-066.3 KB 152.4K 1.1K

AI/ML 所需的线性代数知识(完整路线图)

本文旨在消除从事 AI/ML 工作对数学博士学位的恐惧,提供了一份精准的线性代数学习路线图。文章分为五个阶段:从标量、向量、矩阵等基础概念,到特征值、SVD(奇异值分解)等核心机器学习数学工具,再到连接微积分的梯度与雅可比矩阵。作者强调了掌握这些概念对于理解神经网络、PCA、推荐系统及 LoRA 微调等技术的重要性。

技术 › LLM vixhaℓ 2026-04-2424.4 KB 106.9K 1.3K 79