作者记录了在 Mac mini（M4、16GB）上部署蚂蚁开源的混合推理小模型 Ling-3.0-tiny 的完整过程：编译 Ollama 实验分支、下载 FP8/BF16 权重并导入，验证服务后搭建了一个只调用本机接口的写作页面。随后用一篇真实口述稿进行四轮写作测试——提炼结构、检查问题、局部改写和反馈调整，发现模型擅长结构整理与问题扫描，但润色时 AI 味重，难以还原作者口吻。文章还对比了 FP8 与 BF16 的输入输出速度，并总结了端口冲突、上下文设置和接口安全等部署注意事项，最后给出将其用于写作第一轮辅助的定位。
文章介绍了蚂蚁刚开源的本地小模型 Ling-3.0-tiny（7.9B 总参数，每 token 激活 1.3B），在 Apple Silicon Mac 上的部署与实测表现。作者通过让 Cursor/Codex 自动部署 Rapid-MLX 的 4bit 版本，实测 M3 Max 上首字延迟约 55 毫秒，稳态解码约 110-125 tok/s，4bit 权重仅 4.2GB。该模型适合本机快速开发、大纲草稿、纪要压缩、做课件等短任务，也可接入 workbuddy 作为日常模型，但不适合复杂推理和长知识问答。文中给出了完整部署提示词、速度测试和文案处理实测案例。
作者在 AMD Ryzen AI MAX+ 395 小主机上，用相同提示词和 Hermes 环境，对 Ling-3.0-tiny 与 Qwen3.5-9B（均 Q8_0、64K 上下文）跑三份真实业务任务：电商中台需求整理、商务合作决策备忘录、X 长文数据分析。结果 Ling 在前两轮抓住主线、输出可继续修改，总耗时仅约为 Qwen 的 56%；Qwen 在数据题上更稳，但商务任务两次失控，一次忘记任务、一次虚构公司实体。作者最终选择 Ling 作为默认模型，并强调应以模型最差一轮而非最好一轮作为取舍标准，同时收紧本地 Agent 的权限边界，保持人工把关。
文章介绍了一套面向新手的本地化AI方案：用DeepSeek Harness作为Agent框架读取文件、运行工具，配合本机运行的Ling-3.0-tiny（7.9B总参数、约1.3B激活参数的MoE模型）完成推理，适用于律师事务所、财税、医疗等需要处理敏感文档的场景。作者在2021款MacBook Pro（M1 Pro、32GB内存）上实测，生成速度约40 tokens/s，可胜任合同摘要、结构化抽取、多文档时间线整理和交叉核对等任务。文章详细说明了部署步骤，并通过虚构法律文书的摘要、JSON抽取、时间线生成三项测试验证效果，同时提醒本地运行不等于自动合规，专业文书仍需人工复核。
作者在128GB统一内存小主机上本地部署开源MoE模型Ling-3.0-tiny（7.9B参数，激活1.3B），用llama.cpp Vulkan加载Q8_0量化版本。实测任务是将2360行、2小时17分的客户会议飞书妙记转写交给模型，进行需求提取、实施方案搭建和报价结构整理。结果显示：模型能在235秒内完成需求提取，方案模块划分与人工方案接近，但时间戳偶有不准需人工复核。经提示词调优后，碰撞长度上限次数从16次降至3次。作者认为它适合承担会议整理、需求归类等“脏活”，但范围、价格、承诺等决策仍需人负责，并推荐在真实业务场景中使用。
作者回顾了自己四个月学习 AI 的历程，从最初用蚂蚁百灵大模型 Ling-3.0-tiny 整理装修业务流程、拆解游戏开发任务、到设计四轮装修改稿测试验证模型规则意识，共经历三个阶段。最终在 M5、24GB 内存的 MacBook 上完成 Ling-3.0-Tiny INT4 本地部署，构建 Ollama/MLX 运行路径，并搭建基于 Obsidian 的只读检索层，让模型担任“本地项目情报员”。作者强调普通人学 AI 应先解决一件真实的小事。
作者在一台单通道 16GB 内存、无独显的 Ryzen 5 5600G 台式机上，使用 llama.cpp 官方版部署 Ling-3.0-tiny（Q4KM 量化），实测生成速度 21.70 tok/s，比配置更强的 64GB+3090 机器快近 4 倍。经排查，差异源于推理引擎版本而非硬件。文章还分析了该模型线性注意力架构带来的超低上下文内存开销（约 6.79 KiB/token），总结了思考模式、Windows 编码、线程设置三个实践坑，并给出三步部署教程，证明普通电脑即可流畅本地运行该模型。
作者介绍了在 MacBook M4 Pro 上部署蚂蚁百灵开源的 Ling-3.0-tiny 稀疏 MoE 模型的完整过程，用于处理 48G 微信记录和 237 篇日记等隐私数据。文章详述了 FP8 权重选择、编译 MLX 后端 ollama、避坑指南等实操细节，实测生成速度约 78-99 tokens/s。在脱敏、命名实体识别、长文压缩、去重四个场景中表现优异，并总结分工原则：抽取任务交给本地模型，语义判断留给云端模型。
作者在 MacBook Pro M3 Max 上本地部署蚂蚁百灵开源的 Ling-3.0-tiny（总参数 7.9B、激活 1.3B），编译 Ollama 的 BailingMoeV3 分支导入 FP8 与 BF16 两个精度版本，实测输出速度分别约 106 和 81 tokens/s。随后通过 OpenAI 兼容协议将模型接入 DeepSeek Harness，让它把自己的底稿《文科生学 AI，先补一层计算机常识》重写成公众号文章。结果模型完整跑完任务、未瞎编内容，但句子偏碎且擅自添加内容，直出终稿尚早。文中还总结了部署与配置过程中的一系列坑及避坑指南。
