Karpathy:不再“写代码”,而是指挥Agent
本文记录了 Andrej Karpathy 与 Sarah Guo 的播客对话。Karpathy 指出自 2024 年底起,其工作模式已彻底转变为“指挥 Agent 干活”,通过 AutoResearch 实现递归自我改进。他讨论了 AI Agent 在编程与生活中的应用、开源与闭源模型的收敛,并指出了当前 AI 在可验证领域(代码)飞速进步,但在非可验证领域(如幽默)仍面临“参差不齐”的瓶颈。
本文记录了 Andrej Karpathy 与 Sarah Guo 的播客对话。Karpathy 指出自 2024 年底起,其工作模式已彻底转变为“指挥 Agent 干活”,通过 AutoResearch 实现递归自我改进。他讨论了 AI Agent 在编程与生活中的应用、开源与闭源模型的收敛,并指出了当前 AI 在可验证领域(代码)飞速进步,但在非可验证领域(如幽默)仍面临“参差不齐”的瓶颈。
文章基于2026年最新前沿访谈,信息密度极高,深度剖析了AI Agent在编程、自动化研究等领域的颠覆性应用及未来架构演进,展现了极具前瞻性的敏锐洞察。
文章基于 YC Paper Club 播客,剖析 LLM 推理成本真相:按两年模型寿命摊算,推理总算力约为训练的 12 倍。decode 阶段 MFU 仅 5%,瓶颈在显存带宽而非算力。DeepSeek 通过 KV cache 保留 72 小时、radix attention、零开销调度等手段将缓存命中率做到 96%,实现 38 美元一卡时、80% 毛利。文章还讨论了 SSM 等被低估的模型结构、服务商质量参差(同一模型不同服务商差距超开源闭源差距)以及开源推理生态的规模,指出推理成本优化才是 LLM 竞争的胜负手。
文章分析MiniMax开放M3.1 Flash权重背后的战略逻辑。该模型曾以Space Bunny Alpha匿名形式在OpenRouter上线,72小时内消耗超100万亿token,性能超过前旗舰M3且成本减半。MiniMax通过开源最强模型,目标是让全球Agent默认运行在自己的模型上,与美国公司把模型锁进自家harness收订阅费的做法相反。文章对比中美模型公司的不同路径,并讨论了中国大模型技术出口登记政策及开源出海的规范化进程。
文章指出,过去两年提升 AI 效果的关键在于写更好的提示词,但这一方法正逐渐失效,取而代之的是自主循环(loop)。文章以 Karpathy 的 autoresearch 系统为例:该系统两天内自动运行约 700 次实验,发现约 20 项改进。作者阐述了真正循环的五个阶段(发现、规划、执行、验证、迭代),强调验证、记忆和停止条件三大关键组件,并介绍了自愈式 GitHub 仓库的实践案例。最后,文章给出用 AGENTS.md、loop.py、verify.sh 三个文件构建第一个 AI 循环的入门方法,指出外部验证比增加另一个模型更重要。
DeepSeek 于 10 月 17 日发布 V4.1-Flash-1017 版本,AI 编程跑分显著提升,DeepSWE 达 77.0 超越 Claude Opus 5,任务平均费用降至原来的三分之一。作者使用 DeepSeek Harness 实测四个项目:3D 城市生成器对比显示新版的重庆、西安等地标建筑辨识度大幅提升,耗时从 102 分钟降至 61 分钟;许愿式编程能快速产出 3D 地铁跑酷游戏和天坛祈年殿建模;基于新开放的 Search/Fetch 接口开发的 AI 搜索引擎完成度很高。总花费仅 12.81 元,性价比突出,是一次实打实的帕累托改进。
本文是详细的保姆级教程,讲解如何通过本机中转站 Magpie 和 WorkBuddy AI 海外版账号,让 Codex 免费使用 DeepSeek V4.1 Flash 模型。作者介绍了从注册 WorkBuddy AI 账号、安装 Magpie、配置插件、将 Codex 接入 Magpie 的完整流程,并通过路由记录和积分验证免费模型的真实使用。进一步还介绍了路由组功能,实现自动任务分配:复杂任务(架构设计、bug 排查、代码评审)交给 GPT-6 Astra,代码编写等任务交给免费的 DeepSeek。全文在 Mac 环境下实操,包含一个 3D 网页开发的完整实践案例及踩坑经验分享。
作者基于多年使用 X 的经验,筛选并整理出 100 个含金量最高的 AI 相关账号,涵盖 OpenAI、Anthropic、Google DeepMind 等实验室掌舵人与官方号、产品负责人、顶级研究者、AI 编程与 Agent 实践派、开源与基础设施团队,以及近半数的中文一线 AI 实战博主。榜单分为 10 组(英文 6 组、中文 4 组),每个账号均附推荐理由,强调直接获取一手 AI 信息、避免二手信息差的价值。
文章基于 Andrej Karpathy 的观点展开:AI 自主完成的工作越多,人类越需要花时间理解和审查其输出,而这部分工作也可以请 AI 协助。作者以该帖子为素材,实践了四种帮助理解的形式:一是文字,使用 asd-ste100-skill 技能按简化技术英语规范改写总结;二是图解,分别尝试 Codex 内置生图、小黑配图(狐狸定制版)和宝玉信息图技能;三是交互网页,用 Effective HTML 技能生成可切换四种表达版本的展示页;四是讲解视频,用 HyperFrames 生成约 59 秒的中文动画旁白视频。作者逐一评估各形式的效果与适用场景,并分享相关技能资源与使用经验。
这是一篇本地部署 LLM 的完整入门教程。文章首先说明开源模型(Qwen、DeepSeek、GLM 等)已接近闭源前沿约四个月,而 API 订阅配额却在缩水,因此本地部署的价值日益凸显。教程从 Step 0 开始:检查内存、按内存三分之二规则选择模型、安装 Ollama 并运行第一个模型。随后解释了本地模型的核心优势(数据隐私、零边际成本、不受限)与局限(性能不及闭源前沿),分析了订阅补贴经济的不可持续性,并指导读者根据任务需求选择硬件,强调容量决定装得下、带宽决定跑得快、利用率决定是否划算。
文章回顾 Andrej Karpathy 在 OpenAI 七年间见证 GPT 从 1.17 亿参数增长到万亿参数的历程,强调 Transformer 是近 50 年计算领域最重要的架构。内容深入浅出地讲解 LLM 内部机制:文本被切分为 token 并映射为高维嵌入向量,模型通过注意力机制(Q、K、V 矩阵)学习上下文语义;Kaplan 提出的缩放定律证明性能随参数规模可预测提升;大模型还涌现出上下文学习、思维链推理等未显式编程的能力。作者指出 LLM 不是工具而是基础设施,真正赚钱的是理解底层架构并在此基础上构建的人。
文章探讨为什么同一个 Skill 在不同人手中运行效果差异巨大:Skill 如同课本,本身不等于能力,离开适配的环境便难以发挥作用。作者引用 OpenAI 产品负责人 Tibo 的观点和 Karpathy 的 LLM Knowledge Bases 实践,提出未来 Skill 的终极形式是 Agent 大脑——一个持续吸收 Skill、理解本地环境、积累真实运行反馈并自主更新演化的个人知识库。真正拉开 Agent 能力差距的,不是安装了多少 Skill,而是外部知识能否被熔炼进属于自己的系统。
文章系统盘点了 2026 年值得关注的开源 AI 模型,涵盖语言、图片、视频三大类别,包括 Qwen、DeepSeek、Kimi、GLM、MiniMax、混元等国产阵营及海外模型。作者拆解了模型命名规则(参数量、MoE、量化、许可证等),提出五步选型筛选法,并比较各硬件平台(Mac 统一内存、NPU AI PC、大内存 APU 等)的适配能力。文章还讲解了本地部署的适用场景与许可注意事项,最后通过 Mac 和 Windows 双机实测检验模型在文字、看图、分镜和视频任务上的真实表现,帮助读者判断自己需要哪类模型以及电脑能否带动。
作者在懒猫AI算力舱 X5(128GB显存)上部署 Qwen 3.8 27B 稠密模型,真实项目中跑了4个任务均完成良好。通过 MTP 投机解码 + NVFP8 混合优化并关闭 thinking 模式,速度从 13.9 提升到 30.8 Tokens;但发现关闭思考模式会降低代码推理准确度,重新开启后实测稳定 26.47 Tokens(含思考阶段实际可达 35.23 Tokens/s)。后续还将通过重新量化构建 draft engine 进一步提速。