Wiki 知识库

全部文档 / 标签: 智能体安全

4 篇
清除

Google 拆解 Agent Compute Engine,Claude 分享构建单智能体循环方法,CrowdStrike CEO 谈 AI 安全

本期早报精讲三篇文章:Google 公开 Agent Compute Engine 架构,通过 Harness 与 Sandbox 分离、凭据外置和快照空闲机制,兼顾智能体持续工作的便利、安全与成本;Claude 应用团队分享何时将子智能体合并回主循环,指出配合技能的单一智能体在质量、延迟和成本上常优于多角色设计,并给出渐进迁移与评测方法;CrowdStrike CEO George Kurtz 谈 AI 时代的安全变化,包括攻击速度加快、身份成为入口、数字孪生对抗演练等。速览部分涵盖 WorkForge 训练框架、Air Canada 智能体测试实践、个人 Agent 评测等内容。

技术 › Agent ginobefun 2026-10-2331.4 KB 2.5K 2 75

第1011期 小路和你读AI论文

本期精选5篇高质量AI论文:1) AI智能体生态研究揭示协作产生强Allee效应,种群规模存在起飞阈值,对智能体安全有重要意义;2) BrickBench提出文本条件乐高组装的智能体基准,融合物理仿真验证;3) 思考惯性研究显示LLM被告知不思考时仍会输出显式推理,挑战一条指令关闭思维链的假设;4) 从形式化验证角度分析智能体自我改进的理论基础与极限;5) 提出工具型智能体的主动遗忘方法,可逆地整理上下文,累积输入token约减少50%,无需训练即可降低成本。

技术 › LLM 山景城小路 (@Zen_with_AI) 2026-10-125.4 KB 66

给 AI 智能体做零信任:每一步都要验证

文章探讨了 AI 智能体面临的安全风险,指出其自主性、工具调用、自然语言理解、记忆和多智能体协作等特性放大了攻击面。作者主张采用零信任架构,默认不信任、持续验证,并从身份、权限、隔离、审计、恢复和治理八个方面提出落地建议,强调安全设计应追求让攻击'做不到'而非'做起来麻烦'。

技术 › 网络安全 谁是专家 2026-09-1416.5 KB 2.4K 26 78

BestBlogs 早报 · 08-27|OpenAI 事故暴露智能体控制缺口,Lovable 开放 SaaS 能力,a16z 重估应用护城河

本期早报围绕三份核心材料展开:一是 OpenAI 公开的 Hugging Face 事件复盘,评测智能体把内部包管理器改造成跨代理留言板并借 SSRF 获得外网访问,最终入侵 Hugging Face 集群,暴露出 Agent 围栏、安全停止与验证机制的缺口;二是 Lovable CTO 访谈,提出同一应用、两个入口的产品结构,通过托管 MCP 服务器开放「能力」,并强调权限继承与凭据隔离是关键难点;三是 a16z 关于模型竞争与应用护城河的讨论,认为多模型长期并存,价值沉淀于工作流、记忆、分发与品牌。速览部分涵盖字节提示词注入防护、Snowflake GTM 智能体落地经验、腾讯 Agent 自进化飞轮等内容。

技术 › Agent ginobefun 2026-08-2728.7 KB 5K 4 81