作者实测了 HuggingFace 上多语种榜单第一、可本地部署的开源语音模型 Hojo-ASR-Multi-V1 和 Hojo-TTS-Light-40M。通过普通话、粤语、四川话及多国外语的实际听写测试，发现该 ASR 模型在普通话和粤语表现出色，但在方言虚词、专名和噪声场景下会出错；TTS 小模型在 CPU 上即可快速合成中英夹杂语音。文章还分析了模型体量、内存和 RTF 的关系，并给出不同场景下 ASR/TTS 开源模型的选型建议。
作者推出了名为 Violin 的开源视频翻译技能。该工具结合了语音识别（ASR）、LLM 翻译和语音合成（TTS）技术，旨在打破高质量视频内容的语言壁垒。Violin 支持个性化翻译、多语言处理及与视频互动，提供 Web、CLI 和代理技能等多种使用方式，并已在 MIT 协议下完全开源。
文章介绍了开源项目 VoiceStudio（作者 debpalash），一个纯 Python、AGPL-3.0 协议的本地配音工具，定位为「开源、全程本地的 ElevenLabs 平替」。它支持声音克隆、声音设计、带时间轴对齐的视频配音、语音转写、有声书和批量任务，只需几十秒参考录音即可抽音色，官方支持六百多种语言。项目半年内获得约 6.7 万 Star，桌面端基于 Electron，数据全部留在本地不上传云端，兼容 NVIDIA CUDA 和苹果 Metal，并提供 Local API 和 MCP 供 Claude Code、Codex 等 Agent 调用。文章同时提醒性能受硬件限制、授权需分别确认，以及克隆声音必须取得对方授权。
这是一篇本地部署 LLM 的完整入门教程。文章首先说明开源模型（Qwen、DeepSeek、GLM 等）已接近闭源前沿约四个月，而 API 订阅配额却在缩水，因此本地部署的价值日益凸显。教程从 Step 0 开始：检查内存、按内存三分之二规则选择模型、安装 Ollama 并运行第一个模型。随后解释了本地模型的核心优势（数据隐私、零边际成本、不受限）与局限（性能不及闭源前沿），分析了订阅补贴经济的不可持续性，并指导读者根据任务需求选择硬件，强调容量决定装得下、带宽决定跑得快、利用率决定是否划算。
作者介绍网易有道开源的实时流式 ASR 模型 Confucius4-R2T2 与 Jev 模型组合，可平替英语流利说的口语评测功能。R2T2 是真流式模型，以 160ms 间隔输出且具备 stable prefix 机制，保证已提交文本不被修改；Jev 则快速判断文本层面的漏读、多读和错读类型。两模型均为开源，可在 NVIDIA 显卡本地部署，适合在家朗读练习。作者也指出当前方案仅限文本层面纠错，读音纠错需接入音标识别模型，应对语序跳跃、替换词等复杂场景仍需更深入的声学模型支持。
文章系统盘点了 2026 年值得关注的开源 AI 模型，涵盖语言、图片、视频三大类别，包括 Qwen、DeepSeek、Kimi、GLM、MiniMax、混元等国产阵营及海外模型。作者拆解了模型命名规则（参数量、MoE、量化、许可证等），提出五步选型筛选法，并比较各硬件平台（Mac 统一内存、NPU AI PC、大内存 APU 等）的适配能力。文章还讲解了本地部署的适用场景与许可注意事项，最后通过 Mac 和 Windows 双机实测检验模型在文字、看图、分镜和视频任务上的真实表现，帮助读者判断自己需要哪类模型以及电脑能否带动。
作者在懒猫AI算力舱 X5（128GB显存）上部署 Qwen 3.8 27B 稠密模型，真实项目中跑了4个任务均完成良好。通过 MTP 投机解码 + NVFP8 混合优化并关闭 thinking 模式，速度从 13.9 提升到 30.8 Tokens；但发现关闭思考模式会降低代码推理准确度，重新开启后实测稳定 26.47 Tokens（含思考阶段实际可达 35.23 Tokens/s）。后续还将通过重新量化构建 draft engine 进一步提速。
作者在128GB统一内存小主机上本地部署开源MoE模型Ling-3.0-tiny（7.9B参数，激活1.3B），用llama.cpp Vulkan加载Q8_0量化版本。实测任务是将2360行、2小时17分的客户会议飞书妙记转写交给模型，进行需求提取、实施方案搭建和报价结构整理。结果显示：模型能在235秒内完成需求提取，方案模块划分与人工方案接近，但时间戳偶有不准需人工复核。经提示词调优后，碰撞长度上限次数从16次降至3次。作者认为它适合承担会议整理、需求归类等“脏活”，但范围、价格、承诺等决策仍需人负责，并推荐在真实业务场景中使用。
文章介绍了如何利用网易有道开源的免费TTS模型Confucius 4-TTS实现本地声音克隆。作者展示了将该模型集成到WeSight桌宠中，实时使用复刻音色进行任务播报的过程。该模型仅1.3B大小，支持14种语言的无参考文本克隆，并提供了详细的本地部署代码及在Mac和远程服务器上的运行方案。
文章介绍了两项针对开发者的重磅AI工具更新。首先是Unsloth发布了指南，允许使用Gemma 4和Qwen3.6等开源模型，在24GB显存的本地机器上运行Claude Code的Agentic Coding工作流，实现了隐私、成本与交互体验的兼顾。其次是Google推出了Code Wiki，利用Gemini自动扫描GitHub仓库生成实时更新的智能Wiki，支持架构图生成和代码溯源，旨在解决软件开发中“读代码”的昂贵瓶颈。
文章系统梳理了 2026 年主流开源 TTS 方案：CosyVoice 2 低延迟流式，适合实时语音 Agent 与数字人；GPT-SoVITS 擅长小样本音色微调与克隆；ChatTTS 拟人口语自然，适合 AI 播客；F5-TTS 与 Breeze-TTS 2 基于流匹配免对齐克隆，稳定性好；Fish Audio Drama 3 情绪表现力全面但算力要求高；MaskGCT 鲁棒性强，可处理气声耳语等极端发音；KittenTTS 2 体积极小，可在 CPU 端侧运行。各方案定位不同，读者可按延迟、音色、表现力与资源需求选型。
月之暗面发布 Kimi K3.1 Pro，3万亿参数MoE架构、100万token上下文、开源权重，API输出价格仅为GPT-6 Astra的五分之一。作者从跑分和实测两方面评估：官方xdev-bench-hard编程成功率64.5%排第二，幻觉测试同样第二，第三方智能指数全场第四、开源第一。实测中，作者用相同提示词让K3.1 Pro与GPT-6 Astra分别开发3D跳一跳和植物大战僵尸游戏，两者均一次成型无bug。Kimi耗时约10分钟但会自我验证和修正，Astra快近5倍且细节更丰富。结论：K3.1 Pro编程能力接住闭源旗舰，价格是杀手锏，适合重度Agent用户。
个人开发者用十天时间（代码大部分由 AI 编写）打造了推理引擎 Strata，能让 12GB 显存的普通电脑运行 1250 亿参数的 Qwen 3.8 Flash Next 模型。文章剖析其六倍速度宣传实为不同量化版本对比，同版本实际是两到四倍；真正亮点是 prompt 读取速度达每秒 1500 token。核心技术是围绕 MoE 架构的专家缓存，命中率约 72%，代价是输出可能偏离原模型结果。文章还对比了买内存自建与云端 API 的成本账，并预判通用引擎 llama.cpp 将在几个月内补齐缓存能力。
