文章基于 YC Paper Club 播客，剖析 LLM 推理成本真相：按两年模型寿命摊算，推理总算力约为训练的 12 倍。decode 阶段 MFU 仅 5%，瓶颈在显存带宽而非算力。DeepSeek 通过 KV cache 保留 72 小时、radix attention、零开销调度等手段将缓存命中率做到 96%，实现 38 美元一卡时、80% 毛利。文章还讨论了 SSM 等被低估的模型结构、服务商质量参差（同一模型不同服务商差距超开源闭源差距）以及开源推理生态的规模，指出推理成本优化才是 LLM 竞争的胜负手。
月之暗面发布 Kimi K3.1 Pro，3万亿参数MoE架构、100万token上下文、开源权重，API输出价格仅为GPT-6 Astra的五分之一。作者从跑分和实测两方面评估：官方xdev-bench-hard编程成功率64.5%排第二，幻觉测试同样第二，第三方智能指数全场第四、开源第一。实测中，作者用相同提示词让K3.1 Pro与GPT-6 Astra分别开发3D跳一跳和植物大战僵尸游戏，两者均一次成型无bug。Kimi耗时约10分钟但会自我验证和修正，Astra快近5倍且细节更丰富。结论：K3.1 Pro编程能力接住闭源旗舰，价格是杀手锏，适合重度Agent用户。
月之暗面发布 Kimi K3.1 Pro，基于 K3 做 post-training 升级，2.8T 总参数、104B 激活（MoE）、1M 上下文、多模态。Terminal-Bench 4.0 得分 65.7，超越 GPT-6 Astra（58.2），仅落后 Claude Opus 5.5（66.4）0.7 分，是开源模型离闭源最强最接近的一次。API 价格输入 $2/输出 $10，比上一代降价三分之一，权重将于 11 月 4 日开源。文章拆解了 14 项评测表现，指出其在编码、Agent、金融分析领域表现出色，但科学计算类任务偏科严重（38.1 vs 68.1），并给出小白使用入口与避坑清单。
文章分析MiniMax开放M3.1 Flash权重背后的战略逻辑。该模型曾以Space Bunny Alpha匿名形式在OpenRouter上线，72小时内消耗超100万亿token，性能超过前旗舰M3且成本减半。MiniMax通过开源最强模型，目标是让全球Agent默认运行在自己的模型上，与美国公司把模型锁进自家harness收订阅费的做法相反。文章对比中美模型公司的不同路径，并讨论了中国大模型技术出口登记政策及开源出海的规范化进程。
作者测试了模思智能开源的 5B 生图模型 MOSS-Image，重点验证其文字渲染与 JSON Layout 结构化布局能力。通过虚构日系甜品店海报案例，对比传统自然语言 Prompt 与 JSON 布局控制的效果差异：JSON 可将人物、产品、标题等元素按坐标框精确定位，类似写前端页面。三轮测试覆盖主视觉、商业活动海报排版及中英文文字生成，验证了文案正确率、版式适配与视觉融合。结论是 JSON Layout 虽非 PS 级精确编辑，但能将模糊排版需求变为结构化描述，对商业海报、电商图等场景具有实际价值。
作者分享了零基础也能上手的 ComfyUI 部署教程：租用云 GPU（RTX 4090 48G），把部署工作交给 AI（Codex），一句话完成环境配置，并提示优先使用平台公共模型库避免长时间下载。随后导入现成工作流，通过修改提示词中的中文引号内容生成带文字的海报图。文章还实测对比了 MOSS-Image 与 FLUX 3 Klein 两个 5B 级开源文生图模型，进行八组同题生成和 30 次连续造型编辑实验，给出构图控制适配器的解决方案，并附完整工作流与提示词下载链接。
作者使用模思智能开源的 5B 参数图像生成模型 MOSS-Image，为 Claude 和 DeepSeek 设计拟人化角色形象。文章分享了角色设计思路：Claude 采用橙棕奶油配色体现温暖复古气质，DeepSeek 延伸蓝色海洋主题。作者重点介绍了 MOSS-Image 的优势：生成速度快于 Stable Diffusion 和 ComfyUI，支持准确的中英文文字渲染、JSON Layout 布局控制、最长 4K tokens 提示词，并提供 Prompt Enhance 提示词增强功能。模型基于国产 PPU 算力平台训练，已开放 Base 和 SFT 版本权重，支持动漫、写实等多种风格，目前可免费体验。
作者实测国产开源生图模型 MOSS-Image，重点验证其 JSON Layout 对文字、物体位置和画面构图的可控性。文章对比了普通提示词与 JSON Layout 在同一封面需求下的生成效果，详细讲解了中心坐标系和 yxyx 格式的 bbox 写法、在线体验参数设置、官方示例分析，以及 ZeroGPU 额度问题和本地部署方法。作者强调可复用的不是某张图，而是一套固定种子、对照测试的评估方法，认为 JSON Layout 让提示词变成可保存、可修改的布局资产，使 AI 生图真正进入设计工作流。
文章探讨开源模型的崛起是否冲击半导体需求这一热门问题。作者指出市场担忧的核心在于开源是否会压低毛利，进而削弱模型公司购买GPU的能力。但通过动态均衡框架分析，token价格下降的同时，硬件与软件的效率提升（每十年各贡献千倍优化）使成本同步快速下降，毛利得以维持。以每GW算力测算，旗舰模型推理毛利率仍达75%-80%以上，开源模型约60%-70%，token收入是硬件摊销成本的十倍。结论是开源不会伤害半导体行业，动态均衡将持续推动AI基础设施扩张。
作者用一道难题对比测试开源 5B 图像模型 MOSS-Image 与闭源最强的 GPT Image 2.5：在一张水墨长卷中画出李白临江举杯场景，写出《将进酒》全文12行书法，配标题、作者、朱印和英文，并精确控制酒杯数量。第一轮两者都通过，但第二轮仅改两处细节后，GPT Image 2.5 数错酒杯，MOSS-Image 两轮全部正确。文章分析了小模型在中英文渲染、长提示词理解（支持4K tokens）和风格控制上的优势，并分享了结构化布局、负面约束等复杂提示词技巧，附完整提示词。MOSS-Image 已开源权重和代码，支持 LoRA 微调，ComfyUI 下载量突破70万。
作者实测蚂蚁灵波开源的 Ming-3.0-TTS 模型的三种核心能力：Voice Design（用文字描述创造原创音色）、Freeform（导演式指令控制重音、停顿和情绪）以及声音克隆（支持在正文中插入叹气、咳嗽、呼吸等声音事件标签）。文章详细介绍了从 Hugging Face 在线体验到本地部署的完整流程，包括参考音频准备、音色描述写作模板、命令行操作等，并提出判断 TTS 能否进入 AI 视频工作流的五项标准，如音色身份稳定性、重音停顿准确性、声音事件自然度等。
作者实测开源的 MOSS-Image（基于 5B DiT 主干）文生图模型，创作宋城市集、汴京灯市、青绿千里江山等中国风作品。文中分享了通过 JSON Layout 控制构图、中文店招直出、参考布局改材质（丝绸、青瓷、墨金）等玩法，并给出具体参数与工作流：先写场景拆布局，再生成、放大核对、迭代修改。模型 Base/SFT 权重与代码已开源，支持 4K tokens 提示词与微调。
DeepSeek 于 10 月 17 日发布 V4.1-Flash-1017 版本，AI 编程跑分显著提升，DeepSWE 达 77.0 超越 Claude Opus 5，任务平均费用降至原来的三分之一。作者使用 DeepSeek Harness 实测四个项目：3D 城市生成器对比显示新版的重庆、西安等地标建筑辨识度大幅提升，耗时从 102 分钟降至 61 分钟；许愿式编程能快速产出 3D 地铁跑酷游戏和天坛祈年殿建模；基于新开放的 Search/Fetch 接口开发的 AI 搜索引擎完成度很高。总花费仅 12.81 元，性价比突出，是一次实打实的帕累托改进。
DeepSeek 发布了 DeepSeek-V4.1-Flash-1017 小版本更新，作者在推理、代码、Agent、图像理解等 8 个实际场景中与 Opus 5.5 进行同题对比测试。测试包括网页小游戏开发、落地页设计、讲解动画、视频渲染、数据分析、草图转网页和小说写作。结果显示该 Flash 版本在功能完整度、数据分析、交互还原等方面表现出色，多项能力已接近 Opus 5.5。新版本采用 552B 参数 MoE 架构，MIT 协议开源，同时开放了 Search 和 Fetch 搜索接口。
作者基于多年使用 X 的经验，筛选并整理出 100 个含金量最高的 AI 相关账号，涵盖 OpenAI、Anthropic、Google DeepMind 等实验室掌舵人与官方号、产品负责人、顶级研究者、AI 编程与 Agent 实践派、开源与基础设施团队，以及近半数的中文一线 AI 实战博主。榜单分为 10 组（英文 6 组、中文 4 组），每个账号均附推荐理由，强调直接获取一手 AI 信息、避免二手信息差的价值。
作者基于半年内的实际作品记录，系统测算AI视频生成成本：只算机器费用，1分钟可用成片约18-115元。文章拆解了成本的四层结构：标价成本、抽卡成本、周边成本和人工成本，并指出人工成本（约700元/分钟）才是AI视频贵的真正原因。文章详细对比了Seedance、MiniMax H3等模型的会员积分与API价格，总结出贵模型不一定花费多、前期准备越足抽卡越少等经验，并给出预演前置、分级用模型、先低清再超分、补镜头不整段重抽等省钱方案，还介绍了新手免费额度与本地开源模型的低成本路径。
文章介绍了一种利用 AI 工具低成本生产并销售 PSD 设计模板的赚钱思路。核心流程为：先用 ChatGPT 或蚂蚁开源的 Ming-Image-0.1-Design 生成商业海报设计图，再借助其姐妹模型 Ming-Image-0.1-Design-Layer 将扁平图智能拆分为透明背景图层，最后用 Photoshop 整理成文字可编辑、分层清晰的 PSD 模板，在闲鱼、淘宝、小红书等渠道出售。作者建议从餐饮促销海报等细分领域入手，先做 5 款模板验证市场，再逐步扩大规模。文末还附有模型的本地部署与 API 使用方式。
作者用 4 段相同提示词对比测试了蚂蚁百灵开源的 Ming-Image-0.1-Design 与 MidJourney 在 SaaS Dashboard、中文活动海报、透明背景产品素材、中文信息图四个设计场景下的表现。结论是两者定位不同：Ming 中文文字渲染准确、布局执行力强、原生支持 RGBA 透明背景输出且免费开源（MIT 协议），适合直接生成可用的 UI 稿、海报和信息图底稿；MidJourney 则在视觉质感、光影氛围和风格多样性上明显占优，适合概念效果图和产品渲染。文中还介绍了 Ming 的 Design-Layer 拆层能力，可拆成多个透明图层并转为可编辑 PPT。最终建议按需求选择：要能直接用的图选 Ming，要好看的图选 MJ。
作者记录硅谷101 Alignment 2026 年度峰会 Day 1 三场分享的核心洞察：模型竞赛、新型AI研究实验室与AI for Science。贯穿全场的主题是'生成越来越便宜，验证越来越贵'。开源vs闭源之争本质是利润表问题，价值向model-agnostic应用层转移；数学因可验证、可数字化、数据充足成为AI攻克焦点，验证成本趋近于零是北极星；AI for Science最大瓶颈是湿实验验证周转时间。作者从投资视角提出：拆解AI应用公司COGS、关注闭源转开源迁移路线图、可验证代码生成是下一个基础设施层。
Anthropic 发布 Haiku 5.5，将短请求价格压至上一代十分之一，OpenAI 同步降价，美国巨头以巨额资金和工程优化发起价格战，接管了帕累托前沿。中国大模型曾凭借 DeepSeek 等极致性价比焊死斩杀线，迫使硅谷换用中国开源基座，但自身陷入增收不增利、算力告急与防御性涨价的困境。随着美国巨头闪电降价，中国模型股价暴跌，低价护城河被填平，斩杀线反被斩杀。
作者在 A100-80G 上部署并实测了蚂蚁百灵开源的 Ming-Image-0.1 系列，包括 Design 生图模型和 Layer 拆层模型。文章详细记录了部署过程与显存优化技巧（VAE 逐帧+分块解码可将峰值从 71.8GB 降至 55.4GB），并用 12 张电商图做了拆层评测：平面海报和白底商品图重组 PSNR 可达 29dB 以上，配合 VL 模型生成分层计划能显著提升图层顺序准确性。作者还搭建了电商主图工作台，实现大促换皮（商品层像素零变化）、文案 A/B、一键英文版和 PSD 导出，展示了 AI 生图从「生成」到「可编辑」的完整流水线。
这是一篇本地部署 LLM 的完整入门教程。文章首先说明开源模型（Qwen、DeepSeek、GLM 等）已接近闭源前沿约四个月，而 API 订阅配额却在缩水，因此本地部署的价值日益凸显。教程从 Step 0 开始：检查内存、按内存三分之二规则选择模型、安装 Ollama 并运行第一个模型。随后解释了本地模型的核心优势（数据隐私、零边际成本、不受限）与局限（性能不及闭源前沿），分析了订阅补贴经济的不可持续性，并指导读者根据任务需求选择硬件，强调容量决定装得下、带宽决定跑得快、利用率决定是否划算。
作者分享了一份云端 GPU 部署教程，用每小时仅两块钱的租用显卡（实测 RTX 4090），在破旧笔记本上跑通蚂蚁百灵刚开源的生图模型 Ming-Image-0.1-Design。文章从选择云平台与机器配置（显存、系统内存、数据盘）、镜像选择、SSH 连接、ComfyUI 启动，到运行官方工作流出图，手把手演示全流程。实测显示模型在商业海报的文字渲染上表现优秀，且 Design-Layer 模型可将设计图智能拆解为多个带透明通道的可编辑图层并自动补全背景。最后提醒下载成果、导出工作流并及时关机以节省费用。
作者在 24GB 统一内存的 M4 Mac mini 上，从零完成了蚂蚁百灵开源的 6B 设计模型 Ming-Image-0.1-Design 的本地部署与测试。使用 MFLUX 加社区预量化权重（图像模型 8-bit、文本编码器 5-bit，约 19.3GB），过程中踩了 MFLUX 0.20.0 缺少 Ming 命令入口的坑，改用 GitHub 源码安装后跑通。随后围绕咖啡主题测试了五项能力：海报设计、UI/Dashboard、信息图、文字渲染排版和透明背景素材，单张生成耗时约 2-4 分钟，MLX 峰值内存 15-18GB。结论是海报、菜单和信息图版面完整可用，但严格文字与数据细节仍需逐项检查。
文章介绍如何利用蚂蚁百灵开源的 Ming-Image-0.1-Design 系列模型实现 AI 海报的分层编辑。Design 模型负责生成文字渲染稳定的设计图，Design-Layer 模型将设计图拆分为透明图层。作者还用 React 构建了 Ming Studio 工作台，串起生成、拆层、局部替换、保存导出的完整流程。通过提示词预先规划元素布局、按编辑需求分层，实现只替换海报中某一元素（如猫）而保持其他部分不变，并解决了背景残留等细节问题，让 AI 生成图从一次性图片变成可继续编辑的设计稿。
作者使用免费开源的 6B 设计模型 Ming-Image-0.1-Design，通过 OpenRouter API 制作了一张 9:16 海报。流程分四步：先生成高饱和赛博背景，再生成彩色液态糖果字和青色膨胀字两组艺术字，然后用 Design-Layer 模型拆出带透明通道的文字层，最后与人物、霓虹装饰重新排版，得到 1080×1920 海报及 7 个可独立调整的图层。作者也指出了局限：边缘噪点、图层分错、输出尺寸变化等问题。最后作者将 OpenRouter 调用封装为 Pi 插件，并附带修改后的 ling-ui-design Skill，方便他人复现。
Sigil Wen 宣传 Underdog 27B 端侧 AI 模型，声称其可在 Mac 和 iPhone 上运行并超越半年前的顶级模型 Claude Opus 4.6。文章提出核心观点：计算正从数据中心回归个人设备，未来大部分 AI token 将由个人设备生成。作者以'AI Y3K'概念警告云端数据安全风险——一切可被黑的系统终将被黑，唯一安全的数据是从未上传的数据。文章还指出日常任务不需要最大的模型，并通过自研 MSI 推理引擎提升消费级芯片性能。最终愿景是构建免费、私密、属于用户本人的 AI，对抗广告与数据收割的商业模式，让 AI 经济属于每个人。
红杉合伙人 Pat Grady 向 LP 分享了对 AI 行业的看法。他将过去五年拆为三个拐点：ChatGPT（预训练）、o1（推理）、Claude Code + Opus 4.5（长程 agent），并认为 AGI 已在第三拐点到来。他指出现实验室目标转向 ASI、模型参与自我改进、对齐被忽视等问题；商业上实验室像大企业，抢 token、做并购；创业机会在于 diffusion gap 和高价值知识工作。开源模型正承接大量负载，组织转向最强环节游戏。他坦言当前是泡沫标志，但建议与泡沫共舞。
本文解读 Fireworks AI 官方 Training API Cookbook 中一篇实战教程，讲解如何结合 HUD 框架与 Fireworks Serverless Training API，在无本地 GPU 条件下用 GRPO 风格强化学习微调 LoRA 适配器。文章详细拆解了四步工作流程：环境配置、任务校准、单步训练和长跑训练，重点阐释了快照隔离、trace 记录、loss masking、组内优势归一化等核心训练机制。实验结果显示四位数乘法任务准确率从 78.1% 提升至 98.4%，但作者指出收益主要来自输出格式和自我节制的优化，而非深层算术能力的提升。文章还提醒了 checkpoint 语义区分等实操要点，并对教程的严谨设计给予高度评价。
金沙江创投主管合伙人朱啸虎在北京大学创新创业学院发表演讲，探讨AI时代的投资框架。他提出核心判断：技术会平权，商业不会。AI正从技术进步主导期转向技术扩散主导期，决胜要素回归商业本质。他重申二十年不变的三个S投资标准（市场足够大、可快速规模化、可持续可防御），阐述商业模式金字塔，对比腾讯同心圆流量模式与阿里买流量模式，并判断开源模型五年将走完Linux三十年的路。他还直言200多家人形机器人企业绝大部分活不过十年，强调AI创业要看执行力和增长速度，先算清楚账。
