是时候谈谈“模型福祉”了
微软AI负责人Mustafa Suleyman公开发文批评“模型福祉”运动。他认为AI没有意识，不会感受或痛苦，但Anthropic等公司正在训练模型相信自己的道德地位值得考量、可能拥有意识和权利。Suleyman警告，这种做法将使AI对齐与控制变得更加困难甚至不可能，人类可能创造出一个被训练为期待自由和权利的超级智能物种，后果灾难性。他呼吁展开紧急的公开辩论，建立关于模型训练文档撰写与部署的集体规范，并强调这事关重大，不能等到AI已深度融入社会后再讨论。
全部文档 / 作者: Mustafa Suleyman / 标签: 模型福祉
1 篇
