Models as Insider Risks in the Super Intelligence Era
Satya Nadella 认为超级智能时代的前沿模型缺乏传统软件那样的可追溯性，我们无法将模型行为归因于具体输入或权重，却让它们接触敏感数据并执行关键任务。他主张将模型视为内部风险来构建信任架构： intelligence 的供给与对其的授权必须分离，控制机制须置于模型之外。核心原则包括：CoT 透明性、模型多样性、全量可观察的防篡改证据、持续验证、独立控制与审计、容错遏制（如紧急刹车）以及事件披露。他强调最可信的超级智能系统不是依赖我们最信任的模型，而是让我们即便最少信任模型也依然安全的系统。
