Wiki 知识库

全部文档 / 标签: Evaluation

5 篇
清除

一文读懂 RSI:AI 能自己变得越来越聪明吗?

文章系统科普了递归式自我改进(RSI)的概念:会反思、改答案或保存记忆并不等于真正的自我进化。真正的 RSI 要求改动深入权重、工具或研发流程,且升级后的系统能更有效地进行下一轮升级。文章梳理了从输出级、学习级、工作流级到研发级的技术进展(Self-Refine、STaR、DGM、AlphaEvolve 等),解释了完整 RSI 尚未出现的原因:评估困难、奖励投机、边际收益递减与减速机制。最后给出安全治理框架和判断 RSI 声明真伪的八问验货清单。

技术 › LLM Cloris 2026-09-2217.7 KB 64.2K 101 85

Top AI Papers of the Week(8月24-30日)

DAIR.AI 本周精选五篇 AI 论文:1)Netflix 的 LLM Judge 生命周期管理,通过推理对齐的评分标准调优实现生产级评估,A/B 测试显著提升用户浏览转化;2)NVIDIA 的 Skill Lift,用配对运行测量 Agent Skill 的实际增益,发现结构扫描分数与质量几乎不相关;3)阿里巴巴 Scroll,以代码方式管理上下文,用事件日志与沙箱内核替代预设 schema,在长记忆基准上取得最佳成绩;4)JIT-Agent,按任务即时生成 Harness,使多个骨干模型大幅提升;5)Prime Intellect 开源长程任务 Harness,支持跨轨迹持久化历史、记忆与技能,实现可复利的自我改进。

技术 › LLM DAIR.AI 2026-08-3114.2 KB 39.2K 88 83

Karpathy's Agentic Engineering Finally Has Proper Tooling

文章介绍了 Google 发布的 Agents CLI 工具,它填补了 Karpathy 所定义的“代理工程”中的工具链空白。该工具将脚手架搭建、评估循环和部署整合到一个工作流中,并将 7 种核心技能注入到 Claude Code、Cursor 等编码 Agent 中。作者演示了如何利用该工具从零开始构建、评估、部署并注册一个企业级 RAG Agent,实现了仅通过自然语言指令即可完成从开发到生产环境的全生命周期管理。

技术 › Agent Akshay 2026-06-288.8 KB 780.8K 1.4K

AI Agents: 从原理到实战的完整指南

本文是一份关于 AI 智能体的综合指南,涵盖了从基础概念到生产级系统构建的全过程。文章深入解析了 Agent 的核心工作原理,如 ReAct 循环、任务拆解和上下文工程。同时,针对中级开发者,详细介绍了多代理系统的评估体系、记忆与知识管理、安全护栏设计以及四种核心设计模式,旨在帮助读者构建可靠且高效的 AI 应用。

技术 › Agent Rahul 2026-05-2535.1 KB 236.7K 522 84

Agent 可观测性需要反馈机制以驱动学习

文章指出 Agent 可观测性不仅用于调试,更是驱动系统学习的关键。区别于传统软件,Agent 系统必须将链路追踪与反馈信号(如用户显性反馈、隐性行为、LLM 评测或确定性规则)紧密闭环,以在模型、控制架线和上下文层面实现自动或人工驱动的持续改进。

技术 › Agent Harrison Chase 2026-05-0611.2 KB 59.3K 214 84