一键运行 Karpathy 的 autoresearch 并追踪实验
本文介绍了作者尝试使用 Andrej Karpathy 发布的 autoresearch 工具,通过定义 program.md 让 AI Agent 自动编写代码、运行实验并迭代结果。为了简化流程,作者开源了 autoresearch-gen 工具,利用 LLM 生成脚手架代码并配备 Streamlit 仪表盘来追踪实验。文章还探讨了 AI 研究自动化趋势及其面临的上下文记忆和状态管理挑战。
本文介绍了作者尝试使用 Andrej Karpathy 发布的 autoresearch 工具,通过定义 program.md 让 AI Agent 自动编写代码、运行实验并迭代结果。为了简化流程,作者开源了 autoresearch-gen 工具,利用 LLM 生成脚手架代码并配备 Streamlit 仪表盘来追踪实验。文章还探讨了 AI 研究自动化趋势及其面临的上下文记忆和状态管理挑战。
文章非常贴近当前(2026年8月)Agent自动化的时效热点,提供了高度可落地的开源代码和操作指南,实用性和可读性极高,但在底层技术深度和原创新颖性上略显不足。
这是一篇关于微调小型LLM的完整实战指南。作者指出不需要70B大模型或昂贵算力,1.5B参数模型在200-500个优质样本上微调后,可在特定任务上超越通用提示的前沿模型。文章以商业融资文案生成为例,详细讲解了微调的实际目标、建立基线(纯提示、RAG、微调)的先后顺序,并分步骤介绍了小型基座模型选择(如Qwen2.5-1.5B)、数据权利合规、可复现数据下载、PDF文本提取与OCR、文本清洗、训练数据集构建、QLoRA训练、评估与部署,每一步均附完整代码。
本文旨在解决GitHub上海量AI仓库的导航难题,为AI工程师提供一份经过验证的仓库地图。文章按实际工作流程组织,从基础原理学习(如micrograd、nanoGPT)、本地模型运行(llama.cpp、ollama、vLLM)到图工程等专业领域,逐一介绍关键仓库,并强调许可证、入门成本和贡献机会等实用信息。
本文探讨了AI领域中从提示词工程向上下文工程的演进。引用Karpathy的Software 3.0理念,指出上下文窗口即新程序,通过写入、选择、压缩和隔离四大操作管理模型记忆以避免上下文腐化。结合Claude Code创建者Cherny的循环工程理念,说明通过构建包含技能、子代理和验证器的自动化循环,可实现高效上下文工程,将AI从简单工具升级为强大的操作系统。
本文介绍了如何利用 Fireworks Agent 实现 LLM 微调(SFT)的全自动化。文章以 Andrej Karpathy 的“个人 LLM Wiki”理念为引,阐述了将知识注入模型权重比单纯依赖上下文窗口更高效。通过 Fireworks Agent,作者展示了从数据集检查、超参数搜索、模型训练到部署推理的完整闭环,无需人工干预繁琐步骤,仅需少量 GPU 时间和极低成本,即可训练出具有特定输出风格(如 Wiki 摘要风格)的模型,为构建自我进化的 Agent 铺平了道路。
作者认为 Agent Evaluation 是少数仍需人力判断、未来难以被 AI 彻底取代的职业方向,并推荐了 Hugging Face 公开的 Training Agent 课程作为入门资料。课程共六节:1)Agentic Evaluations,讲解如何评估 Agent 及 benchmark 与真实体验的差异;2)Agent 强化学习的难点,包括环境搭建与 reward 设计;3)用 Agent 执行轨迹做 SFT 微调;4)将大模型能力蒸馏给小 Agent;5)SFT 后用 GRPO 继续 RL 训练;6)用 OpenEnv 搭建真实环境并训练 coding agent。视频公开在 YouTube,代码全部开源。
作者开源了一个名为 Story Studio 的 AI Agent Skill,用于自动化生产历史/人物故事类短视频,涵盖选题策划、黄金钩子文案、豆包大模型配音、毫秒级字音对齐、三套画风分镜生图、自动生成剪映草稿等全链路。作者靠该流水线在视频号实现单条爆款播放100W+、单日带货4000+的战绩。文章详细拆解了各环节实操方法,并分享图书带货、银发健康产品、创作者分成计划、私域导流等四条变现路径,强调工具完全免费开源。
Thorsten Ball 分享了 2026 年 10 月他与 AI Agent 协作的工作方法:使用最新最强的模型,不必担心代码库积累 slop;提示时描述 What 而非 How;让 agent 贯通整个软件开发生命周期(运行、部署、看日志、处理 bug 报告),并为其提供定制工具;通过盲测实验评估 agent 对代码库知识的利用;不要手动管理上下文,让 compaction 工作;请求不可反驳的证明(端到端演示、前后对比数据);拥抱异步工作流,给 agent 更大任务;利用定时唤醒等自动化功能;只审查高影响范围的代码。这些实践展示了 agent 驱动开发的新范式。
文章系统讲解了构建生产级 AI Agent 的五个层次:上下文工程、循环工程、Jev 工程、Harness 工程和评估工程,并以新员工类比逐一解释。核心内容包括:上下文窗口管理(稳定内容前置、利用 prompt caching、工具过多时改用搜索、用子代理减少主上下文占用);循环与工作流的区别(能否预先写清步骤),强调循环需要明确目标、外部检查器等四要素。每个层次都配有构建方法与面向初学者的捷径方案(通过 Viktor 这类 AI 员工工具实现)。目标是让小团队用可靠的 Agent 承担重复性工作,实现不增人力的规模扩张。
文章指出大多数人在错误的层面修复 AI Agent 问题:模型失败时反复改提示词、换模型、加工具,却忽略了真正的问题是模型周围的环境——Harness。Harness Engineering 是构建围绕模型的系统,决定模型能看到什么、能做什么、记住什么、如何判定成功与失败。作者提出六大实践:将请求转化为带完成条件的任务契约;用渐进式披露提供项目地图而非塞满上下文;在模型与工具之间设置网关校验与策略授权;将记忆(事实、决策、状态、经验)移出对话外部存储;以可观测证据作为任务完成的门槛,优先用确定性检查。好的 Harness 能提升每一次运行的质量。
作者分享从大厂软件工程师转向 AI 基础设施方向一年的学习历程与心得。毕业加入大厂后,因工作缺乏主动性空间和创造感,三个月后决定转向 AI infra。通过学习基础知识、深入研读 SGLang 源码、参与社区贡献,逐步加入 SGLang-Omni 项目并进入一家 AI infra 创业公司。作者认为这一年是高回报率的一年,但也指出 AI 领域竞争激烈、节奏快,转行需权衡个人追求。文章最后强调了开源的重要性,认为强大的 AI 工具不应只掌握在少数公司手中,呼吁更多人参与开源社区。
作者逐一核对了 10 门免费或部分免费的 AI 学习课程,并按学习阶段分为四站:零基础入门(吴恩达 AI for Everyone、Google 生成式 AI 路径)、提升 AI 使用能力(OpenAI Prompting 指南、Karpathy How I use LLMs)、补编程基础(哈佛 CS50x/CS50P/CS50AI)、动手实践(微软 Generative AI for Beginners、Claude Code in Action、n8n 搭 AI Agent)。每门课均附出品方、时长、费用、证书等详细信息和链接。作者建议不必全学,根据自己的阶段挑选两门深耕即可。