Wiki 知识库

全部文档 / 标签: 技术报告

10 篇
清除

小米 MiMo-V2.6 技术报告:260 万美元 RL 算力与三维扩展,将万亿 MoE 模型推入前沿梯队

文章解读小米 LLM-Core 团队发布的 MiMo-V2.6 技术报告。核心主张是通过系统性扩展强化学习算力提升模型智能,需同时扩展训练批次、环境多样性和评分器三个维度。模型有 Pro(1.02T MoE)和 Flash(310B)两个规格,RL 后训练成本分别 260 万和 90 万美元。报告详述了中期训练优化、GRPO 训练细节、多 harness 训练、四层 reward hacking 防御、Groupwise Agentic Grading 评分体系、router 冻结发现及基础设施设计,最终性能进入与 Claude Opus 5 / GPT-5.6 同一梯队,并开源蒸馏模型、环境与 RL 框架。

技术 › LLM meng shao 2026-10-1011.6 KB 3.3K 6 86

DeepSeek-V4.1-Flash 技术报告:将 KV 缓存压缩推向极限,重构预填充、缓存与部署的成本结构

本文深度解读 DeepSeek-V4.1-Flash 技术报告,该模型通过 CED 不对称编码器-解码器架构、CSA2 跨层稀疏注意力复用、FP4 主 KV 量化及 SWA Bounded Replay 近似恢复四项设计,将常驻 HBM 的全局 KV 缓存降至 890 bytes/token(约为上一代四分之一),持久化缓存降至八分之一。文章详细解析各项技术的原理与协作机制,澄清了对压缩数字的常见误读,评估模型能力变化,并与 PagedAttention、MiniCache 等已有 KV 压缩路线对比,指出该工作将缓存压缩从算法点推进为面向百万 token 长程 agent 场景的系统级共同设计,同时讨论其证据强度与局限。

技术 › LLM meng shao 2026-09-1921.7 KB 7K 25 82

PixVerse R2世界模型:AI视频走向可交互的持续世界

文章介绍了PixVerse R2世界模型的突破:不同于生成固定内容视频的传统路线,R2实现连续可交互的视频流,用户的实时输入能持续影响场景、角色和故事。技术报告解析了其两层训练架构、Dynamic Chunk动态分块、Hybrid Teacher Forcing与Diffusion Forcing抑制漂移,以及Sink Memory、Rolling History、Object KV Cache三通道记忆系统。应用方向包括可探索的World、互动影游Story和实时数字人Character。作者认为影响持续存在的世界模型将催生互动影视、实时游戏和新型社交空间等新形态产品。

技术 › LLM 卡尔的AI沃茨 2026-08-2515.7 KB 3.3K 2 73

让AI从新人变成长期的同事——硬核拆解Alloomi的三层技术路线

作者通过分析Alloomi的两篇技术报告,拆解了让AI具备长期工作能力的三层技术路线:记得住、学得会、做得成。第一层通过给信息打标签、时间有效期管理和连接强化构建持久化上下文记忆(OpenContext已开源);第二层通过经验池筛选、微调飞轮和Engram X设计将经验写入模型权重实现自我进化,并配有三裁判安全阀机制;第三层在SWE-Bench-CL、JobBench、GDPval等基准上验证端到端交付能力。三层构成可回滚的闭环,让AI每完成一次交付就变强一点。

技术 › Agent AI少年 2026-08-1815.9 KB 19K 73 74

AI 同事的完整技术栈:从“记得住”“学得会”到“做得成”

本文介绍了 Alloomi 提出的 AI 同事完整技术栈,由三层能力闭环组成:Holistic Context 负责跨会话的上下文记忆,Self-Evolving Agent 通过后训练从反馈中学习,专业交付层验证实际工作成果。文章详细阐述了每层的技术机制、benchmark 结果及其局限性,并强调 OpenContext 仅是工程底座而非完整方案。最终指出,只有三层协同工作,才能实现可持续的 AI 同事。

技术 › LLM 一 2026-08-1511.7 KB 18.7K 44 73

Alloomi|客户已经改到 V4,AI 还在执行 V1:Agent 需要的不只是上下文

本文通过一个广告片修改的实例,指出当前AI Agent在长期工作中的一个关键缺陷:无法区分旧要求与当前状态,导致执行过时指令。作者认为Agent的下一轮竞争不在于工具数量,而在于记忆、学习与执行三层能力。文章介绍了Alloomi的两份技术报告,分别对应Holistic Context(全域上下文)和Self-Evolving Agent(自进化智能体),并给出了多个基准测试结果,证明其在长期记忆、持续学习和真实任务交付上的优势。最终,作者强调AI应像人类同事一样,从项目经验中成长。

技术 › Agent 波妞PONYO 2026-08-147.9 KB 15.6K 67 69

Agent记忆的进阶:从记住到学会再到做得成

本文深入探讨了Agent长期记忆的复杂性,指出仅记住历史并不足够,还需处理信息过期、判断变更、反馈应用及错误回滚等问题。作者通过Alloomi的Holistic Context和Self-Evolving Agent技术报告,阐述了如何通过组织实体时间线、经验筛选与后训练,实现Agent从记忆到学习再到实际交付的进化。文章强调,真正的数字员工应具备经验迁移、状态理解和受控进化能力,并提出了三层评估框架。

技术 › Agent Yanhua 2026-08-1314.5 KB 7.4K 50 78

AI Agent 干得越多,为什么还是不会变熟练?

本文探讨了AI Agent在长期部署中面临的核心问题:完成多次任务后,其能力并未随之提升。作者介绍了Alloomi公司的技术路线,通过Holistic Context维护长期工作状态,以及Self-Evolving Agent将任务经验后训练进模型,形成“模型+应用”的反馈回路。文章详细解析了两份技术报告,包括上下文管理机制、后训练流程、基准测试结果及开源项目OpenContext的验证,指出当前证据仍属早期阶段,但为长期运行的Agent提供了可检查的工程入口。

技术 › Agent AI搞钱Hacker 2026-08-1315.0 KB 17.8K 46 82

Kimi K3 技术报告拆解:全球首个开源 3T 级模型

本文拆解了 Kimi K3 的技术报告,这是一个全球首个开源的 2.8 万亿参数模型。文章详细解析了其混合注意力架构、注意力残差机制、MoE 设计以及在长文本训练和推理优化上的创新。报告指出 K3 性能虽略逊于顶级闭源模型,但在多项任务中表现优异,且具有极高的成本效率,甚至已能辅助团队进行内核优化和芯片设计。

技术 › LLM Berryxia.AI 2026-07-2920.0 KB 393.1K 186

DeepSeek V4:一份技术报告里藏着的地震

本文深入解读了 DeepSeek V4 技术报告,指出其核心意义在于实现了训练系统与硬件的解耦。通过英伟达 GPU 和华为昇腾 NPU 的混合验证,中国 AI 训练从“被卡脖子”的死结转变为时间可解的工程问题。作者认为,这是 AI 算力自主可控的分水岭,改变了产业竞争的根本逻辑。

技术 › LLM 雪踏乌云 2026-04-2713.3 KB 56