本文是一篇面向新手的本地大模型部署教程，作者以 MacBook Pro（Ubuntu 24.04、AMD Ryzen AI MAX+ 395、128GB 统一内存）为例，详细讲解了如何用 Ollama 部署 Qwen3.8 27B 模型。文章先解释了本地 AI 的真正价值——隐私、控制权、可接入工作流，而非省钱；然后指导读者判断硬件是否够用、如何选择合适的模型版本和量化等级，并用五步完成部署验证。随后介绍通过 Open WebUI 搭建日常使用界面，以及如何接入个人资料构建知识库（RAG），应用于科研和内容创作场景，最终将 AI 从网页聊天框变成个人设备上的基础设施。
这是一篇本地部署 LLM 的完整入门教程。文章首先说明开源模型（Qwen、DeepSeek、GLM 等）已接近闭源前沿约四个月，而 API 订阅配额却在缩水，因此本地部署的价值日益凸显。教程从 Step 0 开始：检查内存、按内存三分之二规则选择模型、安装 Ollama 并运行第一个模型。随后解释了本地模型的核心优势（数据隐私、零边际成本、不受限）与局限（性能不及闭源前沿），分析了订阅补贴经济的不可持续性，并指导读者根据任务需求选择硬件，强调容量决定装得下、带宽决定跑得快、利用率决定是否划算。
本文是一篇面向小手的本地大模型部署教程，作者在配备 AMD Ryzen AI MAX+ 395、64GB 统一内存的 Ubuntu 24.04 机器上，完整演示了如何用 Ollama 部署千问 Qwen3.8 27B 量化模型（UD-Q3_K_XL）。文章首先解释了本地化部署、参数规模、量化（Q3_K_XL）、token 等基础概念，说明本地部署的隐私、离线使用、无次数限制等优势。随后分 Windows 和 Linux 两条路线讲解环境检查、Ollama 安装、模型下载（约 13GB，运行占 29GB）、首次对话，以及如何确认 GPU（ROCm/Vulkan）真正接管计算，并提供常见问题排查方法，最终一条命令即可在本地跑通模型。
本文是一篇关于检索增强生成（RAG）技术的完整教程。文章指出，大多数 AI Agent 难以落地的原因在于模型无法获取企业私有数据。RAG 通过将外部知识库与大模型结合，解决了这一痛点。作者详细拆解了构建 RAG 系统的五个核心阶段：文档摄取与分块、文本嵌入、向量存储、信息检索以及最终生成，并提供了关于分块策略、嵌入模型选择及混合检索的实战建议。
作者分享了使用英伟达RTX Spark笔记本（华硕ProArt创16，128G统一内存+1T，售价37999元）一周的深度体验。该设备结合了大内存与CUDA生态，解决了本地跑大模型要么选Mac要么受显卡显存限制的痛点。作者演示了通过WorkBuddy部署各类本地模型，包括Qwen3.8-27B大语言模型、图像生成、视频生成、OCR、ASR、TTS等，并打包成一个专家应用方便开箱即用。文章还讨论了AI全天候工作带来的成本问题，认为本地算力是实现Token自由、摆脱API费用束缚的关键方案。
文章从AI对话缺乏长期记忆的痛点切入，系统讲解了个人知识库的作用、分类与搭建方法。作者介绍了两大主流方案：以检索为中心的RAG知识库和以持续维护页面为中心的LLM Wiki知识库。RAG部分通过Dify演示了从资料上传、切片、混合检索索引建立到Agent接入的完整流程；LLM Wiki部分则介绍了Karpathy提出的三层结构（raw sources、wiki、schema），强调Markdown页面对AI友好且透明可查。最后作者分享了自己结合两者优势的混合方案，帮助读者根据实际需求选择合适的知识库路线。
本文是一篇 Cherry Studio 的详细使用教程。Cherry Studio 是一款开源桌面 AI 工作台，可接入 GPT、Claude、DeepSeek、Kimi 及本地模型。文章系统讲解了软件安装与模型 API 配置方法，如何用多模型对比测试写作质量，利用分支功能管理不同写作路线，创建助手保存长期要求；还介绍了如何把文档整理等任务交给 Agent，配置工具权限、网络搜索、技能和 MCP；以及知识库的建立、召回测试、嵌入与重排模型的配置，和通过 Ollama、LM Studio 接入本地模型的方案。适合希望集中管理多个 AI 模型、提升日常工作流效率的用户从入门到进阶参考。
文章指出，企业AI落地仅靠大模型和传统知识库是不够的，面临问法改变即失效、权限越界、引用失效等瓶颈。企业真正需要的是一套包含知识接入、工程加工、治理管控、应用调用和反馈优化的“AI知识引擎”。它能将繁杂的企业资料转化为可信、可追溯、可复用的上下文，为人和各类业务Agent提供稳定支撑，从而在AI深水区构筑核心竞争力。
本文详细介绍了如何为企业客户构建一套本地化、注重隐私的私有RAG（检索增强生成）文档搜索系统，以解决律所、诊所等敏感行业的数据合规问题。系统利用客户端本地的Nvidia GPU通过Ollama运行大语言模型，结合Obsidian作为交互界面，实现内部文档的高效检索。文章按步骤指导如何配置环境、使用MarkItDown转换档案为Markdown格式，并巧妙利用Claude辅助编写脚本。这是一项极具商业价值的本地部署服务模式。
本文介绍了本地部署 AI Agent Hermes 的强大功能与应用，包括接入微信、知识库管理、自我进化等特性。文章详细提供了 Windows 环境下的部署教程，涵盖模型配置、微信接入及常见问题解决方案，展示了其在 OCR、记账、多端协同等场景的实战效果。
文章精选了69个经过实战验证、维护活跃的开源AI仓库，旨在替代昂贵的API订阅。内容涵盖完整的AI技术栈，包括本地大模型推理、RAG知识库构建、AI智能体框架、提示词与评估、模型微调、工具链及部署等十大领域，为开发者、研究人员和独立黑客提供免费的生产级AI工具清单。
本文介绍了如何通过搭建本地网关，将已授权的 AI 账号（如 CLI 或 OAuth 登录的账号）转换为 OpenAI 兼容的本地 API。文章详细阐述了利用 CLIProxyAPI 和本地网关两层架构，将非标准模型资源统一为标准 OpenAI 格式，以便于本地代码、Agent 框架及各类工具调用，同时强调了安全性配置及合规使用。
作者为了训练自己的 AI 管家“贾维斯”掌握 Web3 投资技能，利用 XCrawl 爬虫工具批量抓取了投资大佬 Chris Dixon 的 42 万字博客文章，并将其转化为干净的 Markdown 数据喂给 AI。文章详细介绍了从数据采集、清洗到 AI 学习框架构建的全过程，展示了如何利用 AI Agent 吸收专家知识并进行投资策略分析。
