Jev-Mem: 无需 LLM 的记忆决策
文章介绍了 UT Dallas 的新论文 Jev-Mem，提出用 TypeSafe AI 的 Jev 模型替代通用 LLM 来处理 Agent 记忆系统中的小决策（如判断消息类型、记忆关联、检索终止等）。Jev 只返回结构化数值或标签，无需解析文本，通过 System One 轻量控制器与 System Two 生成式 LLM 的分工，显著提升效率。在 LoCoMo 基准上，答案质量相对最强基线提升 11%，构建速度快 6.6 倍，查询延迟降低 36.7%。文章也指出其局限：阈值依赖单一模型与基准、缺乏校准概率、消融实验不足，阈值在不同模型和数据分布下的泛化能力是最大隐患。
