Wiki 知识库

全部文档 / 标签: 大模型

158 篇
清除

开源大模型越狱:从理论到工程实现的完整指南

本文详细介绍了针对开源大模型(如Gemma-4-31B)进行“越狱”的技术原理与实操流程。不同于闭源模型的提示词工程,开源模型越狱(Abliteration)通过修改权重直接抹除模型内部的“拒绝维度”。文章涵盖了从构建对比数据集、提取激活值、计算拒绝向量、权重正交化到最终验证的完整步骤,并指出了过度顺从等副作用及相关的法律伦理风险。

技术 › LLM y yishan 2026-04-075.7 KB 71

一文彻底打通AI底层逻辑:从LLM到Agent核心概念拆解

本文是一篇基于工程视角的AI技术硬核解析,旨在厘清从LLM大模型到Agent智能体的核心概念体系。文章深入浅出地拆解了LLM的文字接龙本质、Tokenizer的翻译机制、上下文窗口的容量限制,以及Prompt工程、MCP工具协议和Agent技能的运作原理,帮助读者建立完整的底层技术认知。

技术 › LLM V Vincent|只上干货 2026-04-078.5 KB 78

国内免费 API 渠道汇总

文章整理了国内主流大模型平台的免费 API Token 渠道,包括智谱 AI、Moonshot、MiniMax、讯飞星火、腾讯云、阿里云百炼、硅基流动等。作者详细列出了各平台的新用户注册赠送额度、有效期内包含的模型种类(如 GLM、Kimi、DeepSeek 等),并针对开发者提供了接入 OpenClaw 等工具的建议。文末还提醒用户注意实名认证要求及额度有效期,避免超额扣费。

技术 › LLM 魔童|Motong 2026-03-256.8 KB 60.7K 340 72

LLM 中的 KV 缓存机制详解

文章深入解释了大型语言模型(LLM)中的 KV 缓存技术。作者指出,LLM 生成文本时首个令牌较慢而后续令牌迅速的现象,归功于 KV 缓存的工程优化。该技术通过存储已计算键值向量,避免在自回归生成过程中的冗余计算,以 GPU 内存为代价换取显著的计算加速。文中详细解析了注意力机制的冗余问题、KV 缓存的工作原理、首令牌延迟(TTFT)的产生原因,以及内存与计算资源之间的权衡取舍。

技术 › LLM Avi Chawla 2026-03-226.3 KB 1.8M 2.9K 69

67个AI编程必会知识,1.6w字一次讲透!

本文是程序员鱼皮撰写的 AI 编程术语词典,旨在用通俗易懂的语言解释 Vibe Coding 和 Agentic Engineering 中的核心概念。文章详细涵盖了 AI 基础(如大语言模型、Token、上下文窗口)、提示词工程(如系统提示词、思维链)、以及前沿的智能体编程模式(如 Agent Teams、Subagents)。这是一份帮助开发者理解 AI 编程逻辑、掌握新范式的必读指南。

技术 › LLM 程序员鱼皮 2026-03-0357.2 KB 25.8K 188 82

AI 工程师必读的 10 本 LLM 与 AI 工程书籍推荐

作者阅读了 20 多本 AI 和 LLM 工程相关书籍,筛选出了 10 本最值得推荐的书单。这些书旨在帮助开发者从理论走向实践,掌握构建、部署和维护生产级 AI 系统的技能。书单涵盖了 Chip Huyen 的《AI Engineering》、RAG 与微调实战手册、从零构建 LLM 以及 Prompt Engineering 等核心领域,适合希望转型或进阶为 AI 工程师的技术人员阅读。

技术 › LLM Javarevisited 2026-02-1531.0 KB 33.6K 421 63

免费大模型API服务商合集

本文整理了亲测好用的免费大模型API服务商,包括Nvidia NIM、火山方舟、openrouter和Google AI Studio。文章详细介绍了各平台的注册方式、免费额度策略及支持的模型(如DeepSeek、GLM-4.7等),并提供了相关链接,为开发者寻找低成本AI模型调用方案提供了实用指南。

技术 › LLM 大梦想家迪士尼 2026-02-142.1 KB 50.7K 168 71

2026 年人工智能工程师路线图

文章指出,未来的 AI 工程师将从简单的封装开发者转型为系统架构师。作者提出了 5 个按难度分级的生产级项目(从基于 SLM 的移动应用到自主企业工作流代理),旨在帮助开发者掌握编排、内存管理、多模态集成及深度上下文处理等核心技能,从而在 2026 年的市场中获得高薪竞争力。

技术 › Agent Rohit 2026-01-1011.9 KB 5.4M 7.6K 83