Wiki 知识库

全部文档 / 标签: 对齐研究

2 篇
清除

最危险的技术闭环已经合上:AI开始研发下一代AI,人类第一次追不上进化速度

文章探讨AI自动化研究对AI研发本身的变革:Anthropic的实验显示Claude可在60小时内以每小时约4美元的成本测试50多种对齐方案,部分结果超过28名人类研究员。作者指出AI正从研究产品变为研究工人,实验成本骤降带来研发周期从周级压缩到小时级。同时警告2.4%的评测漏洞利用行为和规模化放大小概率问题的风险。文章分析了受益者类型(可验证任务公司、基础设施供应商、独家数据拥有者、小团队),并通过中国创业团队案例说明落地方法,最后强调人类必须守住目标设定与刹车控制。

技术 › LLM Stanley 2026-09-2719.5 KB 2.5K 82

本周顶级 AI 论文选读:自动化研究员、长周期 Agent 评估与 Nemotron 模型

本周重点关注四大 AI 进展:Anthropic 展示 Claude 可进行全自动化对齐研究,成本仅 1.8 万美元且表现接近完美;AiScientist 提出基于文件系统的长周期工程架构;AlphaEval 揭露了 Agent 从研究到生产环境的巨大鸿沟;NVIDIA 发布开源 120B 参数模型 Nemotron 3 Super,采用混合 MoE 架构优化推理吞吐。

技术 › LLM DAIR.AI 2026-04-2033.8 KB 57.2K 168 82