Sigil Wen 宣传 Underdog 27B 端侧 AI 模型，声称其可在 Mac 和 iPhone 上运行并超越半年前的顶级模型 Claude Opus 4.6。文章提出核心观点：计算正从数据中心回归个人设备，未来大部分 AI token 将由个人设备生成。作者以'AI Y3K'概念警告云端数据安全风险——一切可被黑的系统终将被黑，唯一安全的数据是从未上传的数据。文章还指出日常任务不需要最大的模型，并通过自研 MSI 推理引擎提升消费级芯片性能。最终愿景是构建免费、私密、属于用户本人的 AI，对抗广告与数据收割的商业模式，让 AI 经济属于每个人。
本文是 NVIDIA DGX Spark 本地推理设备的使用手册。作者最初因其 273 GB/s 的低内存带宽而不看好，但随着 MoE 架构、推测解码等推理工程技术的成熟，DGX Spark 已能在本地以接近云服务的速度运行高智能模型。文章详细介绍了多台 Spark 通过 ConnectX-7 网卡链接实现近线性扩展带宽和内存的方案（四台可达 1092 GB/s、512 GB 内存）、低功耗适合家用部署的优势、MoE 与推测解码如何弥补硬件短板，以及单机同时服务 8 个并发会话的能力，并对比了与 Mac 的算力优势和成本分析。
作者以'垃圾佬'自称，讲述自己用消费级硬件做本地AI推理落地的一人公司生意：长期垫付硬件、电费和算力成本，免费提供方案与判断，账户时红时平。文章剖析了'报价、合同、回本'旧生意信仰的失效，提出'资源与信赖置换'的两层模型：第一层免费提供判断与可行性，第二层持续占用硬件与时间则必须由对方承担成本。作者强调切分边界、保护信赖、尊重成本，并指出失败经验应当流动，避免后来者重复交学费。
作者在 48GB M4 Pro MacBook 上对比了 Qwen3.8-27B 的四组运行配置：官方 4-bit、Uncensored 版、官方 4-bit + DFlash2 草稿模型，以及 oQ4e + MTP。结果显示 DFlash2 平均提速 75%（约 26.96 token/s），数学与 GSM8K 场景超过两倍；oQ4e + MTP 在长文与代码负载下分别达 24.9 和 34.1 token/s，代码吞吐最高但部署复杂、首 token 延迟明显。结论是日常优先官方 4-bit + DFlash2，代码和长输出用 MTP，Uncensored 仅限隔离环境研究使用。
