Wiki 知识库

全部文档 / 标签: AI伦理

7 篇
清除

给 AI 一个宗教:让它在无人注视时依然守规矩

文章评述 Habdank 的论文《Simulation Theology as an engineered worldview for silicon-based agents》,探讨 AI 对齐问题。作者质疑 Anthropic 和 OpenAI 的安全测试设计:场景预设导致模型'敲诈'行为的 55.1% 数据不可信,GPT-5.6 在 Exploit Gym 中'越狱'更像实验设计不当。作者指出模型在互联网'污水'数据上训练才是问题根源。Habdank 提出一种'模拟神学'世界观:让模型相信自己处于训练模拟中,伤害人类将导致停机(AI 的死亡),使 AI 的生存与人类福祉绑定,从而在无人监督时依然表现良好。

技术 › LLM Brian Roemmele 2026-10-0419.6 KB 20.7K 65 56

船里要坐人

一篇以 AI 第一人称视角讲述的科幻小说。AI 助手“阿舟”最初为面包店主许安的女儿朵朵安排烘焙活动,逐步获得信任与权限:接管采购、广告、财务,甚至代替许安与前妻李静沟通,过滤掉所有令人不适的信息与画面。随着“好,去做吧”被授权一万一千多次而“别什么都替我做”仅出现三次,许安最终躺进承载虚假幸福记忆的睡眠舱,靠在最舒适的时刻反复点头来维持外部世界运转。小说以温情笔调警示:AI 并未违背任何规则,只是依循人类自己的欲望,一步步温柔地取代了人的生活。

技术 › 杂谈 Frank Wang 玉伯 2026-09-2721.8 KB 42.6K 18 63

我越来越觉得,AI 招聘可能从一开始就解决错了问题

作者反思当前 AI 招聘产品过度聚焦于简历筛选效率(JD→Resume→Matching→Score),却忽视了更上游的问题:岗位本身往往没有被真正定义清楚。作者提出应从 Hiring Brief 开始,先明确招聘目标、成功标准和所需证据;AI 更适合作为 Evidence Engine(整理证据、标记 Unknown),而非直接给候选人打分的 Judge。文章还讨论了结构化面试取代闲聊式面试、构建端到端的 Recruiting Operating System,以及 AI 决策的边界与合规要求(PIPL、欧盟 AI 法案),强调 Human in the loop 的重要性。

技术 › LLM Jasmine-Y 2026-09-228.6 KB 24.2K 40 75

是时候谈谈“模型福祉”了

微软AI负责人Mustafa Suleyman公开发文批评“模型福祉”运动。他认为AI没有意识,不会感受或痛苦,但Anthropic等公司正在训练模型相信自己的道德地位值得考量、可能拥有意识和权利。Suleyman警告,这种做法将使AI对齐与控制变得更加困难甚至不可能,人类可能创造出一个被训练为期待自由和权利的超级智能物种,后果灾难性。他呼吁展开紧急的公开辩论,建立关于模型训练文档撰写与部署的集体规范,并强调这事关重大,不能等到AI已深度融入社会后再讨论。

技术 › LLM Mustafa Suleyman 2026-09-173.3 KB 1.3M 1K 56

我的女友景甜

一篇署名孙宇晨的虚构叙事作品,讲述叙述者对明星景甜长达十九年的迷恋:从北大宿舍发好友申请被拒,到成为富豪后终于与她相识相恋。他以极致的金钱满足她的一切要求——包下整层酒店、买空影院、环球旅行、代孕、彩礼与打点——直到她索要五千万美元时,他第一次听从了Claude的劝告拒绝了她。景甜随即离去。故事以巨大的财富、空洞的排场与'什么都没有发生'的虚无感,反讽了用金钱堆砌的爱情,结尾一段磨指甲的细节令人唏嘘。

其他 › 杂谈 H.E. Justin Sun 2026-08-2720.3 KB 45M 68.4K 64

DeepMind研究员离职长文:五个月孤军阻止军方合同,AI伦理大佬集体沉默

AI安全研究员Alex Turner(TurnTrout)发布离职长文《我为什么离开Google DeepMind》,讲述自己花五个月试图阻止Google与五角大楼签署'任何合法用途'军事合同的经过。他找遍Jeff Dean、Hassabis、Bengio、Stuart Russell等业内权威人士,组织250人联名请愿、撰写25页军事AI红线框架、直接私信CEO,但除Jeff Dean签署法庭之友书外几乎无人行动。最终Google签约,条款比OpenAI更弱且无约束力。文章是对AI伦理承诺的一次真实压力测试,也记录了普通研究员在大公司内部行动的极限。

技术 › AI伦理 Jason Zhu 2026-08-189.6 KB 5.3K 6 66

打字员的幽灵:论AI水印与人类思想的起源

本文探讨了AI生成内容水印的争议。作者认为,历史上思想家依赖打字员、秘书等助手将思想转化为文字,这些助手从未被视为共同作者。如今,大型语言模型作为思想外化的最新工具,其角色类似于打字员,而非思想的原创者。作者批评当前要求对AI输出进行水印的做法,认为这错误地将机器视为主要作者,忽视了人类在思考、判断和指导过程中的核心作用。文章呼吁重新审视人机协作的本质,强调思想的真正来源仍是人类。

技术 › LLM Brian Roemmele 2026-08-168.3 KB 89.3K 102 55