Wiki 知识库

全部文档 / 作者: 实践哥 Li / 标签: Agent

5 篇
清除

12G显存部署125B Qwen3.8-Flash-Next 全攻略

本文介绍了如何借助Strata框架和Agent自动化流程,在12GB消费级显卡上部署125B参数的MoE模型Qwen3.8-Flash-Next。文章解释了MoE稀疏激活(每token仅激活6B)与Strata让GPU、CPU、RAM、SSD协同工作的原理,对比了不同量化方案(UD-IQ4_XS与UD-Q4_K_XL)在专家缓存命中率上的速度差异。作者全程使用蚂蚁的Ling-3.1-flash Agent完成从读文档、检查硬件、安装、排错到测速验收的部署流程,并成功将本地模型接入pi。该方法可复用于部署Ling、GLM、Kimi、DeepSeek等其他本地模型。

技术 › LLM 实践哥 Li 2026-10-087.4 KB 159.4K 454 79

12G显存部署125B Qwen3.8-Flash-Next 全攻略

本文介绍如何在12GB显存上部署125B参数的Qwen3.8-Flash-Next模型。核心是Strata技术让GPU、CPU、RAM和SSD协同工作:常用专家留GPU,其余放RAM,CPU处理cache miss。RTX 5070 12GB + 64GB RAM在Q2_0量化下短对话可达94 tok/s。文章还讲解了量化选择策略——显存占用相同时速度可差1.72倍,关键在于专家命中率。作者全程使用蚂蚁的Ling-3.1-flash Agent自动完成从检查机器、选权重、下载安装到排错验收的完整部署流程,跑通了一套用Agent自动部署本地模型的可复用方法。

技术 › LLM 实践哥 Li 2026-10-087.4 KB 79

1分钟,开源模型原生支持移动端

作者分享通过UU远程的最新升级,让本地运行的开源大模型(如Qwen 27B)拥有了手机端入口。相比Codex远程控制只支持自家模型、Claude Code远程有封号风险,本地模型不花钱、不封号且速度快。UU远程基于tmux实现,支持完整TUI渲染、多终端会话、跨端接管和语音输入,且免费。作者还开源了uu-term-bridge工具,让iTerm2中的所有会话自动出现在手机列表,实现桌面与手机双向无缝切换,补齐了与Codex远程体验的差距。

技术 › 移动端 实践哥 Li 2026-09-067.0 KB 231.2K 110 74

Claude Code 动态工作流解析与实战指南

文章详细介绍了 Claude Code 的动态工作流功能,通过编写编排脚本运行数十到数百个并行 subagents,解决智能体偷懒、自我偏好和目标漂移问题。内容涵盖原理、与静态工作流的区别、分类执行、对抗验证等六种实用模式,以及在迁移重构、深度研究、代码审查等九类场景的落地应用。

技术 › Claude 实践哥MinLi 2026-06-0411.6 KB 222.5K 306 88

你搭的 Claude Skills,还能提升10倍效果——使用Karpathy 的 autoresearch 方法

本文介绍了基于 Andrej Karpathy 的 autoresearch 方法,通过建立评估 Checklist 和自动迭代循环,让 AI Agent 自动优化 Claude Skills。作者分享了将落地页文案 skill 通过率从 56% 提升至 92% 的实战案例,该方法同样适用于网站优化、邮件撰写等任何可量化的工作流。

技术 › Agent 实践哥MinLi 2026-03-2112.1 KB 508.2K 774 83