别再迷信参数量:中国开源模型在硅谷踢馆成功
文章记录了作者利用中国开源模型 MiniMax M2.5(仅 10B 激活参数),通过行为工程和 Goose 运行时的优化,在 Databricks OfficeQA 基准测试中以 71.5% 的准确率击败了 Claude Opus 4.5 的实战经历。文章指出,企业级 AI 的竞争已从单纯的模型参数量转向行为工程与驾驭层能力,并揭示了中美 AI 生态(中国执行引擎+美国编排方法论)结合所产生的高效低成本优势。
文章记录了作者利用中国开源模型 MiniMax M2.5(仅 10B 激活参数),通过行为工程和 Goose 运行时的优化,在 Databricks OfficeQA 基准测试中以 71.5% 的准确率击败了 Claude Opus 4.5 的实战经历。文章指出,企业级 AI 的竞争已从单纯的模型参数量转向行为工程与驾驭层能力,并揭示了中美 AI 生态(中国执行引擎+美国编排方法论)结合所产生的高效低成本优势。
文章通过真实的基准测试对比,提供了高密度的前沿数据和深度的因果推理,提出了“行为工程”超越“模型参数”的新颖观点,并给出了具体的智能体调度经验,对行业极具启发性和时效性。
文章分析MiniMax开放M3.1 Flash权重背后的战略逻辑。该模型曾以Space Bunny Alpha匿名形式在OpenRouter上线,72小时内消耗超100万亿token,性能超过前旗舰M3且成本减半。MiniMax通过开源最强模型,目标是让全球Agent默认运行在自己的模型上,与美国公司把模型锁进自家harness收订阅费的做法相反。文章对比中美模型公司的不同路径,并讨论了中国大模型技术出口登记政策及开源出海的规范化进程。
文章基于 YC Paper Club 播客,剖析 LLM 推理成本真相:按两年模型寿命摊算,推理总算力约为训练的 12 倍。decode 阶段 MFU 仅 5%,瓶颈在显存带宽而非算力。DeepSeek 通过 KV cache 保留 72 小时、radix attention、零开销调度等手段将缓存命中率做到 96%,实现 38 美元一卡时、80% 毛利。文章还讨论了 SSM 等被低估的模型结构、服务商质量参差(同一模型不同服务商差距超开源闭源差距)以及开源推理生态的规模,指出推理成本优化才是 LLM 竞争的胜负手。
月之暗面发布 Kimi K3.1 Pro,3万亿参数MoE架构、100万token上下文、开源权重,API输出价格仅为GPT-6 Astra的五分之一。作者从跑分和实测两方面评估:官方xdev-bench-hard编程成功率64.5%排第二,幻觉测试同样第二,第三方智能指数全场第四、开源第一。实测中,作者用相同提示词让K3.1 Pro与GPT-6 Astra分别开发3D跳一跳和植物大战僵尸游戏,两者均一次成型无bug。Kimi耗时约10分钟但会自我验证和修正,Astra快近5倍且细节更丰富。结论:K3.1 Pro编程能力接住闭源旗舰,价格是杀手锏,适合重度Agent用户。
月之暗面发布 Kimi K3.1 Pro,基于 K3 做 post-training 升级,2.8T 总参数、104B 激活(MoE)、1M 上下文、多模态。Terminal-Bench 4.0 得分 65.7,超越 GPT-6 Astra(58.2),仅落后 Claude Opus 5.5(66.4)0.7 分,是开源模型离闭源最强最接近的一次。API 价格输入 $2/输出 $10,比上一代降价三分之一,权重将于 11 月 4 日开源。文章拆解了 14 项评测表现,指出其在编码、Agent、金融分析领域表现出色,但科学计算类任务偏科严重(38.1 vs 68.1),并给出小白使用入口与避坑清单。
文章系统解释了 AI 领域中 harness(套件/执行框架)的概念。作者指出 LLM 默认只能生成文本,要真正执行操作需要工具、调用语法、解析系统、结果回传和工具清单,这一切组成了 harness。文中区分了界面(如 Claude Code 的 TUI/GUI)与底层 harness(如 Anthropic Agent SDK、Codex App Server),并用厨房比喻说明 harness 与工具的关系。文章还解释了 MCP 的作用——类似'食谱',让代码可以在外部运行,以及 agent 的定义:LLM 与 harness 的结合体。
DeepSeek 发布了 DeepSeek-V4.1-Flash-1017 小版本更新,作者在推理、代码、Agent、图像理解等 8 个实际场景中与 Opus 5.5 进行同题对比测试。测试包括网页小游戏开发、落地页设计、讲解动画、视频渲染、数据分析、草图转网页和小说写作。结果显示该 Flash 版本在功能完整度、数据分析、交互还原等方面表现出色,多项能力已接近 Opus 5.5。新版本采用 552B 参数 MoE 架构,MIT 协议开源,同时开放了 Search 和 Fetch 搜索接口。
作者耗时5天对 REA 增强版 Codex 与原生 Codex 进行了108次对照实验,其中35对可同条件比较。文章详细记录了三个阶段:首先是六次小型探索,测试笔记导出、桌面应用复制、.NET 计价函数复现三组任务,两边均通过全部用例但 REA 组耗时略长;随后扩展至六档难度、两种模型共72次正式运行。文章分析了 REA 作为调查工具为模型提供的模块关系、函数位置等线索,以及原生 Codex 借助普通工具自行调查的能力,指出在小规模任务中两者能力差距不明显,差异更多体现在调查入口和验证路径上,并对实验边界与结论适用范围做了严谨说明。
作者基于多年使用 X 的经验,筛选并整理出 100 个含金量最高的 AI 相关账号,涵盖 OpenAI、Anthropic、Google DeepMind 等实验室掌舵人与官方号、产品负责人、顶级研究者、AI 编程与 Agent 实践派、开源与基础设施团队,以及近半数的中文一线 AI 实战博主。榜单分为 10 组(英文 6 组、中文 4 组),每个账号均附推荐理由,强调直接获取一手 AI 信息、避免二手信息差的价值。
MiniMax 宣布 Code CLI v0.4.12 以 MIT 许可证向全球开发者开源。在第三方 FrontierHarness Eval 评测中,MiniMax Code 取得了最高的通过率、最快的平均任务完成时间以及次低的 token 消耗。官方认为精心设计的 harness 能充分释放模型能力并减少开发者等待时间。开源后,开发者可以审查工具调用与权限处理机制,构建可靠的企业级应用。MiniMax 同时邀请社区参与问题反馈与修复,通过真实使用和社区审查持续强化安全防护,共同打造安全、可靠、高性能的 harness,实现 Intelligence with Everyone。
本文介绍如何通过上下文压缩代理 headroom 减少 Agent 调用 Gemini 模型时的 token 消耗。作者指出 agent 上下文中大部分 token 来自工具输出的冗余 JSON、日志和搜索结果,而非精心设计的提示词。通过在 Gemini 3.8 Flash 前部署 headroom 代理,在四种生产级 agent 工作负载测试中,prompt token 减少 76%,任务准确率保持 100%,首 token 时间有所改善,建模成本下降约 70%。文章同时诚实探讨了压缩的有损性:压缩器保留模式、分布和异常值,但会丢弃普通记录,模型在数据缺失时会拒绝编造。项目开源且可复现。
本文系统对比了 AI 智能体两大组成层面:Agent Harness 与 Agent Runtime。Harness 是位于 LLM 之上的应用逻辑层,负责执行循环、提示拼装、上下文管理、工具调用、状态跟踪与错误处理,决定智能体“想什么、怎么做”;Runtime 是承载执行的基础设施层,负责沙箱隔离、资源限制、网络与凭证管控、持久化与并发调度,决定“在哪、如何安全执行”。文章从定义、职责、生命周期、接口、资源管理、安全隔离、可扩展性、可观察性、部署模型、性能、故障恢复和典型用例等方面逐一比较,并给出示例代码与部署模式总结,帮助读者全面理解并实践二者设计。