AI 记忆分数超过人类参考,这条新路线创业公司也能走
本文介绍了AI长期记忆领域的最新进展,重点分析了Alloomi公司在LongMemEval-S等评测中取得超过人类参考分的成绩。文章详细解读了其背后的技术路线——基于开源模型的自进化后训练流程,包括数据收集、质量筛选、专家锚定、后训练、评测准入和版本回滚等步骤。作者认为,这条路线降低了创业公司的门槛,将竞争焦点从算力转向数据和流程,为行业模型的发展提供了新思路。
本文介绍了AI长期记忆领域的最新进展,重点分析了Alloomi公司在LongMemEval-S等评测中取得超过人类参考分的成绩。文章详细解读了其背后的技术路线——基于开源模型的自进化后训练流程,包括数据收集、质量筛选、专家锚定、后训练、评测准入和版本回滚等步骤。作者认为,这条路线降低了创业公司的门槛,将竞争焦点从算力转向数据和流程,为行业模型的发展提供了新思路。
文章提供了具体的评测数据和技术路线分析,信息量充足,时效性高,但实用性偏弱,深度和原创性中等。
本文探讨了AI Agent在长期部署中面临的核心问题:完成多次任务后,其能力并未随之提升。作者介绍了Alloomi公司的技术路线,通过Holistic Context维护长期工作状态,以及Self-Evolving Agent将任务经验后训练进模型,形成“模型+应用”的反馈回路。文章详细解析了两份技术报告,包括上下文管理机制、后训练流程、基准测试结果及开源项目OpenContext的验证,指出当前证据仍属早期阶段,但为长期运行的Agent提供了可检查的工程入口。
本文探讨了AI Agent 的自进化能力,提出判断其是否真正变强的关键在于第二次交付的表现。作者认为,如果Agent每次任务都从零开始,无法记住上次的修改和专家的纠正,那么系统只是在重复劳动。文章介绍了Alloomi 的路线,即通过沉淀真实工作中的判断、修改和结果,让经验成为下一次交付的输入,形成复利闭环。文中还展示了Alloomi 在长期记忆、持续学习和专业交付方面的benchmark数据,并讨论了其技术架构,包括Holistic Context 和Self-Evolving Agent,以及开源项目OpenContext。最后,作者强调下一代AI公司的护城河在于用户第二次任务是否优于第一次,以及模型能否从经验中学习并回滚错误。
本文深入探讨了Agent长期记忆的复杂性,指出仅记住历史并不足够,还需处理信息过期、判断变更、反馈应用及错误回滚等问题。作者通过Alloomi的Holistic Context和Self-Evolving Agent技术报告,阐述了如何通过组织实体时间线、经验筛选与后训练,实现Agent从记忆到学习再到实际交付的进化。文章强调,真正的数字员工应具备经验迁移、状态理解和受控进化能力,并提出了三层评估框架。
文章基于 YC Paper Club 播客,剖析 LLM 推理成本真相:按两年模型寿命摊算,推理总算力约为训练的 12 倍。decode 阶段 MFU 仅 5%,瓶颈在显存带宽而非算力。DeepSeek 通过 KV cache 保留 72 小时、radix attention、零开销调度等手段将缓存命中率做到 96%,实现 38 美元一卡时、80% 毛利。文章还讨论了 SSM 等被低估的模型结构、服务商质量参差(同一模型不同服务商差距超开源闭源差距)以及开源推理生态的规模,指出推理成本优化才是 LLM 竞争的胜负手。
文章分析MiniMax开放M3.1 Flash权重背后的战略逻辑。该模型曾以Space Bunny Alpha匿名形式在OpenRouter上线,72小时内消耗超100万亿token,性能超过前旗舰M3且成本减半。MiniMax通过开源最强模型,目标是让全球Agent默认运行在自己的模型上,与美国公司把模型锁进自家harness收订阅费的做法相反。文章对比中美模型公司的不同路径,并讨论了中国大模型技术出口登记政策及开源出海的规范化进程。
文章以 GPT-3 与 InstructGPT 对比为例,解释为什么预训练只教会模型'猜下一个词',却不能让它听指令、保证安全、做长链推理,因此需要后训练来弥补目标差距。文章对比了预训练与后训练在目标、数据、信号、成本和改动幅度上的差异,并系统介绍了三种后训练技术:指令微调(跟示范学)、偏好对齐(RLHF/DPO,靠比较学)、RLVR(由可验证检查器判对错)。全文用通俗类比讲清后训练的原理,是后训练系列文章的第一篇。
DeepSeek 于 10 月 17 日发布 V4.1-Flash-1017 版本,AI 编程跑分显著提升,DeepSWE 达 77.0 超越 Claude Opus 5,任务平均费用降至原来的三分之一。作者使用 DeepSeek Harness 实测四个项目:3D 城市生成器对比显示新版的重庆、西安等地标建筑辨识度大幅提升,耗时从 102 分钟降至 61 分钟;许愿式编程能快速产出 3D 地铁跑酷游戏和天坛祈年殿建模;基于新开放的 Search/Fetch 接口开发的 AI 搜索引擎完成度很高。总花费仅 12.81 元,性价比突出,是一次实打实的帕累托改进。
作者基于多年使用 X 的经验,筛选并整理出 100 个含金量最高的 AI 相关账号,涵盖 OpenAI、Anthropic、Google DeepMind 等实验室掌舵人与官方号、产品负责人、顶级研究者、AI 编程与 Agent 实践派、开源与基础设施团队,以及近半数的中文一线 AI 实战博主。榜单分为 10 组(英文 6 组、中文 4 组),每个账号均附推荐理由,强调直接获取一手 AI 信息、避免二手信息差的价值。
这是一篇本地部署 LLM 的完整入门教程。文章首先说明开源模型(Qwen、DeepSeek、GLM 等)已接近闭源前沿约四个月,而 API 订阅配额却在缩水,因此本地部署的价值日益凸显。教程从 Step 0 开始:检查内存、按内存三分之二规则选择模型、安装 Ollama 并运行第一个模型。随后解释了本地模型的核心优势(数据隐私、零边际成本、不受限)与局限(性能不及闭源前沿),分析了订阅补贴经济的不可持续性,并指导读者根据任务需求选择硬件,强调容量决定装得下、带宽决定跑得快、利用率决定是否划算。
文章介绍 UC Berkeley EECS 2026 秋季开设的《Scalable AI》课程(EE 290/194),由 Anant Sahai 与焦剑涛联合授课,NVIDIA 提供算力支持。课程将大模型作为端到端工程对象教授,涵盖架构、预训练、后训练、高效推理、应用与研究前沿六个阶段,采用基于真实 H100 节点的项目制考核,无笔试,研究项目占 50% 且要求外部影响力证明。课程深度绑定 NVIDIA NeMo 工具链,反映了 AI 教育重心从论文向工程实践迁移的趋势,适合目标为 LLM infra 与 MLSys 的学生。
作者介绍了 nanobot 的上下文压缩机制与长期记忆设计。上下文由 system prompt、历史消息和当前消息构成,当输入达到上下文窗口的 input budget 时,nanobot 压缩历史消息为新 summary,保留未发送的增量消息。生成摘要时通过模拟用户指令请求模型总结,并保持 system prompt 和工具定义一致以复用 KV cache 降低成本。对 OpenAI 原生压缩 API,nanobot 在加密 compaction item 之外额外生成文本 summary 供长期记忆使用。长期记忆通过 consolidator_archive 和 dream 两份提示词模板定制,用户可调整记忆筛选与整理规则,甚至整理成 skill。
文章探讨递归自我改进(RSI)的瓶颈:当前 AI 智能体虽能迭代优化结果,却很少重新审视改进背后的策略。基于清华大学等机构的实证研究,分析显示智能体在 5,111 次训练运行中能显著提升模型性能,但仅有约 2% 的情况会切换训练策略,多停留在执行层面的微调。增加经验、人工指导或推理算力均无法根本解决该问题。研究指出,迭代不等于重新思考,Metaⁿ 和 Recuris 等新方法尝试通过递归分层改进策略、演化记忆机制来弥补这一缺失。