人因工程与复杂系统：AI时代的认知挑战
本文从人因工程视角探讨人类在复杂系统中的角色，指出人类是系统中最脆弱且不可预测的组件。作者结合航天、核电、大模型交互等场景，分析了人类在高压下的认知局限，如注意力狭隘、态势感知崩溃等。文章批评了心理学研究的复现危机和遍历性问题，强调个体预测的困难。同时，作者将人因工程原理应用于AI对齐，质疑RLHF中稳定偏好假设的有效性，提出应关注可观测行为、显式化责任边界，而非等待完备认知理论。
全部文档 / 标签: 认知局限
1 篇
本文从人因工程视角探讨人类在复杂系统中的角色，指出人类是系统中最脆弱且不可预测的组件。作者结合航天、核电、大模型交互等场景，分析了人类在高压下的认知局限，如注意力狭隘、态势感知崩溃等。文章批评了心理学研究的复现危机和遍历性问题，强调个体预测的困难。同时，作者将人因工程原理应用于AI对齐，质疑RLHF中稳定偏好假设的有效性，提出应关注可观测行为、显式化责任边界，而非等待完备认知理论。
