Wiki 知识库

全部文档 / 作者: huangserva / 标签: LLM

9 篇
清除

全世界第一个记忆原生大模型 MemT-1.0 上线

MemOS 团队发布全球首个“记忆原生”大模型 MemT-1.0,将记忆能力直接训练进模型权重,取代 RAG、Mem0 等外挂记忆方案。其思路是不改底座、参数冻结,仅在部分层并联约 1.05 亿参数的记忆块,通过蒸馏训练让模型自学“什么该记、什么该忘、怎么取用”,优化目标从检索命中率改为任务答对率。交付物包括通用模型权重(会记笔记的大脑)和用户专属记忆状态文件(仅 40 MiB 的笔记本)。数据显示其 40 MiB 记忆答题成功率 69.73%,略高于全量上下文的 69.13%,存储缩小 66 倍、首字响应快 4.19 倍。已在 Hugging Face 和 GitHub 开源,被视为开启模型“在使用中变强”的第四条技术路线。

技术 › LLM huangserva (@servasyy_ai) 2026-10-218.8 KB 73

我让豆包工作从零写了一个 Jev 模型路由器,让 Codex 省钱近 45%

作者针对 Codex 账单越来越贵的问题,利用 TypeSafe AI 的 Jev 模型(只做带概率的判断、成本极低)搭建了一个外部模型路由器 HippoRoute-Jev-Codex,仅在线程首请求、新用户轮次、压缩检查点、子 agent 首请求四个缓存重建时机选模型,其余工具循环沿用钉住的模型,避免打掉 prompt 缓存。整个项目由豆包工作通过计划模式和目标模式从零完成,作者全程仅操作四次、未看一行代码,最终 76 个测试全通过并自行揪出 3 个 bug。实测机械任务省 95.4%,子 agent 场景省 79.7%,整体省 44.8%,且任务通过率无差别。

技术 › Codex huangserva 2026-09-2417.9 KB 82K 80 81

拿到 Jev,然后呢?剔掉虚火之后的一份真实落地清单

TypeSafe AI 于 2026 年 9 月发布的 Jev 是一个只做选择题的 AI 模型(单选、打分、是/否),响应 0.07–0.5 秒、输入价格极低、输出免费。作者梳理了官方数据及 Hacker News 上的质疑,指出“Jev 取代大模型”是伪命题,其合理定位是高频、低价地执行小判断。文章按用途分类整理了已真实跑通的案例:为 AI Agent 当决策器、海量数据分类、高低置信度分流混合架构、实时反应界面和仿真实验,并列举了已接入的商业产品。作者还分享了自己四次失败的集成尝试与两轮实测结论,强调概率校准的重要性。

技术 › LLM huangserva 2026-09-1922.2 KB 552.7K 840 85

一次性讲清楚 Qwen3.8 27B 的本地部署

本文详细介绍如何在本地部署阿里开源的 Qwen3.8 27B 模型,覆盖 Mac 和 N 卡两条路线,并附 4090 实测数据。作者通过四轮质量测试发现 9.83GB 压缩版在短任务上与 30GB 版本打平,指出 12GB 游戏卡即可运行。文章系统讲解硬件选型、量化版本选择、KV Cache 显存计算、MTP 加速配置及常见踩坑,强调窗口大小只占显存不影响速度这一关键认知,是一篇面向零基础用户的完整部署指南。

技术 › LLM huangserva 2026-08-2571.4 KB 296.8K 683 91

8款前沿大模型能力横评:10个维度50项测试全解读

本文对8款前沿大模型进行了为期两天的深度横评,通过10个维度、50个细项的两轮测试,对比了模型在一次性复杂任务与拆解任务稳定性上的表现。文章详细解读了测试方法、评分标准及各模型优劣势,最终得出了适用于真实工作流的参考结论。

技术 › LLM huangserva 2026-08-1729.7 KB 30.7K 43 86

LMArena 最新排名:文心 5.1 预览版国产登顶,文本能力仍是核心

本文基于 LMArena 最新文本排行榜更新,探讨了文心 5.1 Preview 凭借 1476 分拿下国内第一、全球第 13 的成绩。作者分析了为何在 DeepSeek V4 和 GPT-5.5 主导的时代,文本能力依然是大模型代码生成与逻辑推理的“基本盘”。文章指出文心通过「多维弹性预训练」技术实现了高性价比与高性能,验证了夯实文本底座的重要性。

技术 › LLM huangserva 2026-05-015.1 KB 237.7K 78 43

给 Agent 发工资前,先给它一个工作邮箱:在 Hermes 上跑通 ClawEmail 的这段实践

本文探讨了 AI 自动化中权限隔离的重要性。作者分享了在 Hermes Agent 平台上接入 ClawEmail 的实践,通过为 AI 配置独立工作邮箱和子邮箱(GitHub、客服、商务),实现了邮件的自动化分级处理与工作流编排。文章详细对比了 CLI(规则搬运)与 Channel(语义理解)两种模式的优劣,并分享了四个高价值应用方向。

技术 › Agent huangserva 2026-04-1618.9 KB 46.8K 102 85

Hermes-Agent vs 自建OpenClaw Harness:Agent操作系统的记忆与架构实战对比

文章基于 Harness Engineering 三大支柱(评估闭环、架构约束、记忆治理),深度对比了 Nous Research 的 Hermes-Agent 与作者基于 OpenClaw 自建的 MemOS 系统。Hermes 主打“有界热记忆 + CLI 优先”,适合个人快速启动;自建方案则采用“无界记忆 + Hook 机制强制捕获”,实现多 Agent 协作与权限隔离,适合团队长期积累。

技术 › Agent huangserva 2026-04-1034.6 KB 28.2K 202 86

Claude Code CLI 源码分析:Prompt 架构与 Agent 缓存黑科技

文章深入分析了 Claude Code CLI 的源码架构,揭示了 Anthropic 实现“无限长对话”背后的技术秘密。核心包括:1. Prompt 两层缓存设计(全局静态+会话动态),大幅降低 Token 成本;2. 四层递进的 Compact 架构,从增量删除(Cache Edits)到全量摘要,确保语义完整;3. Proactive 模式与终端焦点感知,实现 Agent 自主协作;4. 内外版 Prompt 差异(ant 分支)。

技术 › Claude Code huangserva 2026-04-0152.5 KB 123.5K 410 84