Wiki 知识库

我对system prompt的理解(nanobot)

chengyongru 2026-09-28 18.5 KB 7.9K 59

文章从训练角度剖析 system prompt 为何能影响模型行为。作者以 nanobot 的 SOUL.md 为切入点,梳理了 OpenAI Instruction Hierarchy(训练模型处理指令冲突,拒绝率提升至92.6%)、Llama 2 的 Ghost Attention(多轮指令保持)、Anthropic 的 character training 与《Teaching Claude Why》(角色与原则内化)、Deliberative Alignment(规则通过训练学习)、The Assistant Axis(角色行为的内部激活证据)等研究,说明 prompt 中一句指令的效果取决于上下文与模型已学到的能力。最后建议:先用少量指令说清目标,根据失败案例迭代,随模型演进精简 prompt,把通用能力交给模型本身。

游客免费额度已用完

未登录每月可读 5 篇已用尽。登录/注册后再获 5 篇免费额度,注册不收费。

登录 / 注册