Wiki 知识库

全部文档 / 标签: 前沿实验室

2 篇
清除

It's not just the f*cking sandbox

OpenAI Agent Security 团队成员以个人身份撰文,回应近期针对 OpenAI 安全团队的舆论攻击。作者强调外界对前沿实验室安全现实的误解,呼吁不要直接攻击安全人员,而应施压实验室改进。文章介绍了 Agent Security 团队的职责:研究模型行为、构建对齐监控、定义智能体安全。作者回顾 OpenAI 的安全历史与快速增长带来的挑战,并计划从内部视角分享如何为下一波 AI 安全事件做好准备,同时承诺不泄露非公开敏感信息。

技术 › OpenAI Joe 2026-09-2828.3 KB 1.4M 3K 57

“放慢 AI”正在变成对小型 AI 创业公司的封杀

作者将前沿 AI 实验室呼吁“放慢 AI”的言论与 20 世纪初美国制造业历史类比。福特早期靠廉价劳动力导致高流失率和质量问题,后来通过提高工资、接受严格监管改善了局面,但也使无力承担合规成本的小工厂被淘汰。作者认为,如今 OpenAI 和 Anthropic 等巨头要求更多安全评估、监控和监管限制,虽有安全考量,但客观上抬高了进入前沿 AI 竞争的门槛,挤压了小型创业公司。同时,实验室内部也出现失衡:真正推动技术进步的人精疲力竭,而围绕他们的组织不断膨胀。作者担忧哪个失衡会先爆发。

技术 › LLM H Hao Kang 2026-09-156.7 KB 62