Wiki 知识库

全部文档 / 标签: 上下文安全

1 篇
清除

Become AI Agentic Engineer in 6 Weeks (Full Course) - Part 2

这是 AI Agentic Engineer 系列课程的第二部分,深入讲解提示词工程与上下文安全。文章首先介绍 LLM 的指令层级(系统提示、用户消息、工具结果),强调层级只是辅助而非安全模型。随后详细分析直接提示注入与间接提示注入两类攻击:间接注入尤其危险,因为恶意指令藏在外部内容(网页、邮件、GitHub issue 等)中,用户毫不知情。核心防御是来源标记,即区分内容的可信级别,同时强调授权必须在模型之外的后端以确定性方式实现,防止智能体成为权限绕过的工具。

技术 › 网络安全 Rahul 2026-09-0624.8 KB 344.2K 320 75