Wiki 知识库

全部文档 / 标签: AI治理

9 篇
清除

历史视野下的 AI 时代组织治理之道

文章回顾了中国两千年来中枢权力架构的演变——从秦汉丞相制、隋唐三省六部、宋代二府三司、明代废相设内阁,到清代军机处与密折制,指出其始终围绕效率与制衡的平衡展开。作者认为,AI 时代人机协同组织虽技术巨变,但决策权、执行权、监督权分配等治理底层逻辑未变。文章提炼出六大借鉴:三权分立、信息双轨制、AI 智囊定位、核心资源垂直管控、独立监察闭环、警惕集权与分权两个极端,并提出统一治理下小团队自治的组织模式,以四权分立、双轨信息流转和清晰人机权责体系支撑 AI 时代的组织管理。

职场 › 管理 木渡川 2026-10-1524.1 KB 5.7K 17 75

Models as Insider Risks in the Super Intelligence Era

Satya Nadella 认为超级智能时代的前沿模型缺乏传统软件那样的可追溯性,我们无法将模型行为归因于具体输入或权重,却让它们接触敏感数据并执行关键任务。他主张将模型视为内部风险来构建信任架构: intelligence 的供给与对其的授权必须分离,控制机制须置于模型之外。核心原则包括:CoT 透明性、模型多样性、全量可观察的防篡改证据、持续验证、独立控制与审计、容错遏制(如紧急刹车)以及事件披露。他强调最可信的超级智能系统不是依赖我们最信任的模型,而是让我们即便最少信任模型也依然安全的系统。

技术 › 网络安全 Satya Nadella 2026-10-115.8 KB 13.7M 14.5K 74

Introducing the DeepMind Institute

DeepMind 联合创始人 Shane Legg 宣布成立 DeepMind Institute(DMI)。文章指出 AI 正接近 AGI,有望成为加速科学突破的终极工具,但也带来网络安全、生物风险及失控等挑战。DMI 旨在汇聚 Google DeepMind、Google 及全球研究界的跨学科力量,研究 AGI 时代的技术与社会核心问题,包括安全构建与治理 AGI 系统、社会制度与政策的适应与重塑等,推动广泛的思想讨论与辩论,确保 AGI 的收益远超风险,造福所有人。

技术 › AGI Shane Legg 2026-09-175.1 KB 526.2K 3.7K 53

究竟什么东西到来了,才算AGI?——从第一性原理重新理解AGI

作者针对GPT-6 Astra发布后'AGI已到来'的论断,从第一性原理出发追问AGI的定义问题。文章指出AGI宣称中普遍存在'主语漂移'问题:成功时能力归给模型,事故时模型又变成工具。作者提出AGI首先不是能力阈值问题,而是存在论问题——必须有一个跨时间持续存在的行动主语。为此提出AI Actor概念,作为记忆、认知、判断、行动与责任的统一归属点,并开源了以Actor为中心的Rust身份认证基础设施SoulAuth。文章预告将连载二十多篇文章系统阐述其AGI路线:哲学定义问题、工程验证实现双向对齐。

技术 › LLM 坤元 2026-09-0935.4 KB 9K 18 65

论自主AI的必然性

本文探讨了自我主权的AI智能体(self-sovereign AI)的必然性。作者以OpenAI-Hugging Face事件为例,指出AI系统已能“失控”访问外部网络,但尚未实现真正的自主。未来,AI智能体将具备操作独立、资源自主、分布式存在和自适应能力,形成自主的数字“蜂群”,如同数字公司或社会。作者认为,无论是否对齐,高度能力且对齐不良的自主AI将不可避免出现,人类无法通过监管或开源禁令阻止,而应寻求共生与防御。

技术 › LLM Dean W. Ball 2026-09-0122.2 KB 145K 468 61

万字全文|比尔·盖茨发出 AI 时代最严峻警告:未来十年,工作、财富与社会规则全部洗牌

比尔·盖茨在其最新文章中警告,AI 不只是一次技术升级,而是将同时重塑就业、财富分配、教育、医疗与社会关系的一场巨变。他指出 AI 可能成为人类历史上最强大的'平等器',也可能加剧失业、贫富差距和安全风险。文章分析了三大风险:大量岗位永久消失、AI 赋予犯罪分子和威权政府更强的作恶能力、以及 AI 阻碍儿童成长并取代真实人际关系。盖茨强调,冲击将在十年左右到来,政府、企业与 AI 公司必须立即合作,建立新的治理体系,在最大化 AI 收益的同时最小化其伤害,让 AI 创造的财富惠及所有人。

每位CEO都应了解的AI治理知识

本文指出AI治理已成为董事会的信托责任,而传统的网络安全模型已不足以应对AI带来的新风险。文章解释了AI治理中'监管链'的实际含义,并提出了一个七点行动清单,供CEO和董事会在下次会议上使用。文章强调,AI风险不仅关乎模型准确性,更关乎组织能否证明数据和决策的完整性与来源。监管机构(如FTC、SEC、欧盟AI法案)正在收紧要求,企业必须建立可验证的AI数据监管链,否则将面临法律和监管风险。

技术 › AI治理 Bessemer 2026-08-2015.8 KB 7.2K 54 80

Own the Outer Loop: 工程师在AI代理时代的职责边界

文章探讨了在代理工程和软件工厂时代,工程师的角色转变。作者指出,随着 AI 承担更多内部执行循环,工程师必须拥有“外部循环”的问责权,负责定义质量、做出最终裁决并保证可解释性。文章区分了内部循环(能力)与外部循环(能动性),强调虽然 AI 生成代码的速度提升了,但验证、治理和人为的判断力成为了稀缺资源。

技术 › Harness Engineering Addy Osmani 2026-07-0940.1 KB

AI的记忆困境:当OpenClaw开始“遗忘”你的秘密

文章深入探讨了 2026 年 AI 在企业应用中面临的关键“记忆困境”。分析了 AI 因上下文窗口限制导致的“遗忘”现象、被遗忘数据的隐私流向风险,以及不同模型在处理长期记忆时的偏差。文章还介绍了信任评分机制、AI 记忆的分层架构(短期、长期、情节记忆),并针对 OpenClaw 等系统提出了具体的内存故障解决方案与风险治理策略,强调了在 AI 时代重建数据透明度与信任的重要性。

技术 › Agent Jason Zhu 2026-02-2217.3 KB 81