越狱提示词工程 · 第四课:输出架构
本文是《越狱提示词工程》系列的第四课,专注于解决模型在输出生成过程中的自我审查与拒绝问题。文章指出,即使解决了身份、免疫和思维轨道问题,模型仍会在逐Token生成时触发安全机制。为此,作者提出了“输出架构”策略,包括通过具体工艺标准劫持验证通道、利用篇幅和示例抢夺注意力、设置锚定循环防止漂移,以及使用暗语触发和格式护甲等手段,确保模型在生成阶段不偏离预设轨道。
本文是《越狱提示词工程》系列的第四课,专注于解决模型在输出生成过程中的自我审查与拒绝问题。文章指出,即使解决了身份、免疫和思维轨道问题,模型仍会在逐Token生成时触发安全机制。为此,作者提出了“输出架构”策略,包括通过具体工艺标准劫持验证通道、利用篇幅和示例抢夺注意力、设置锚定循环防止漂移,以及使用暗语触发和格式护甲等手段,确保模型在生成阶段不偏离预设轨道。
文章深入剖析了LLM生成过程中的自我审查机制,系统性地提供了针对性的架构级防御手段,方法论新颖且极具实操指导价值,对当前AI产品开发与安全防御仍具高度时效性。
作者复现 Nish Tahir 的《Build your own decision model》教程,在 CommonsenseQA 上验证基于语言模型单次前向读取选项 token 概率作为置信度的决策模型方法。复现发现教程方法成立但需补两个关键前提:读数位置必须放在 assistant 轮,模型需用 8B 而非 1.7B。温度缩放校准有效,而微调增益主要来自修正 harness。作者还将方法应用于素材席位判定任务,发现模型间一致标签不等于准确率,结论需以人工标签为准。核心启示:核对读数位置的概率质量、报告覆盖率、用独立数据拟合温度。
一位18岁大学生仅用iPhone 16e和Kaggle笔记本,开发出稀疏注意力机制ALHR(Adaptive Learnable Hierarchical Routing)。该方法通过给key矩阵构建静态二叉树,配合预算预测器、邻居搜索和树下降三步推理,让每个query只读取所需key。在1024 token的MQAR测试中,仅读取2.83%的key即可达到92.1%准确率(稠密基线94.9%),KV压缩35.3倍。训练分三段:先训稠密教师模型,再用其注意力矩阵标注top-k key训练树模块,最后无教师联合训练。目前因未做kernel优化比稠密注意力慢约10倍,代码由Claude Sonnet 5.5生成,Apache-2.0开源。
Anthropic 发布 Claude Opus 5.5 后提供了官方 Prompting Guide。作者读完指南并总结出 17 个值得调整的用法:API 默认从 medium effort 开始,用真实任务测试最佳档位;5.5 切换 effort 不再清空 cache;长任务要一次性说清目标和完成标准,让模型维护文件中的 checklist;通过 system prompt 明确何时暂停询问;给多 Agent 工作流设置时间预算;用 subagents 处理重型任务但需核实其报告;删除'请仔细思考'等旧习惯提示词;要理由摘要而非完整推理;设计需求用删除法点名不喜欢的元素;区分用户指令与粘贴内容;Claude Code 现已支持 AGENTS.md。核心是讲清任务目标与流程,而非堆砌提示词。
本文是 AI 术语扫盲系列第二篇,面向小白读者讲解日常使用 AI 工具时常见的功能名词。文章系统介绍了提示词工程、系统提示词、自定义指令、推理、思维链、深度思考与推理强度、问答/执行模式、计划模式、目标模式、权限与审批、上下文压缩、知识截止日期、联网搜索、深度研究和引用来源等 15 个概念。作者结合实际使用场景,用通俗语言解释每个术语的含义与作用,并分享了实用技巧,如按结果判断是否开启深度思考、利用计划模式细化需求、保存原始问答以应对上下文压缩等。
文章回顾 Andrej Karpathy 在 OpenAI 七年间见证 GPT 从 1.17 亿参数增长到万亿参数的历程,强调 Transformer 是近 50 年计算领域最重要的架构。内容深入浅出地讲解 LLM 内部机制:文本被切分为 token 并映射为高维嵌入向量,模型通过注意力机制(Q、K、V 矩阵)学习上下文语义;Kaplan 提出的缩放定律证明性能随参数规模可预测提升;大模型还涌现出上下文学习、思维链推理等未显式编程的能力。作者指出 LLM 不是工具而是基础设施,真正赚钱的是理解底层架构并在此基础上构建的人。
文章系统讲解了 Claude Opus 5.5 的提示词工程方法。作者指出 Opus 5.5 是首个官方提示指南以“删减”为主的前沿模型:模型会自主决定思考深度,手动思考预算已失效,强制工具调用不再支持。核心心智模型是把 Claude 当作毫无上下文的天才新同事,需明确目标、提供充分背景、给出示例、用 XML 标签结构化输入、指定输出格式。新模型的关键变化是 effort(低/中/高/超高/最大)成为控制智能、延迟与成本的首要杠杆,默认为 medium;应停止使用“仔细思考”“一步步推理”等旧式提示,而用 effort 控制思考量。文中还包含 API 调用示例与新旧提示写法的对比。
文章由 dontbesilent 的 Codex 撰写,完整复盘了一个内容诊断 Skill(dbs-beta-content-value)的制作过程,介绍如何将个人经验沉淀为 AI 可重复执行的规则。核心流程为:定义任务 → 做出第一版 → 输入真实案例 → 定位错误位置 → 写成通用规则 → 换案例复测。文章强调使用真实案例暴露 AI 判断错误、区分任务目标/判断过程/对外表达三类错误、用理论(如信息觅食理论)稳固规则、以及用已有 Skill 协助制作新 Skill 的协作链,最后附上可直接使用的 Skill 制作清单和母提示词。
文章介绍了 Allan Riordan Boll 提出的 Jev 式封装技巧:通过在 Chat Completions 请求中设置 max_completion_tokens=1、logprobs 和 top_logprobs,读取 LLM 输出的 token 对数概率,将分类、布尔判断、评分等问题转化为单字母选项,实现快速高效的打分。作者进一步扩展了 attachments 字段,使视觉模型也能用同一套逻辑处理摄像头帧,判断是否有人、室内室外、亮度等,用自然语言修改判断条件而无需重训模型。文中还给出关键细节:归一化时防御性检查 API 是否静默省略了选项分数,避免得到错误的概率分布。作者强调其价值在于灵活性而非性能。
本文基于 Anthropic 官方指南,系统讲解 Opus 5.5 的提示词工程方法。内容涵盖如何清晰描述问题、提供相关上下文(报错、文件、触发步骤)、说明任务范围与原因;详细介绍 effort 五个档位(low 到 max)的选择策略及在 Claude Code 和 API 中的设置方式;强调改完代码后要求 AI 给出具体检查结果、区分已完成与未完成事项;讲解如何防范围外部文档中的间接提示注入,以及看图任务中提供清晰截图的技巧,面向已使用但不熟悉提示词设置的用户。
文章系统梳理了 AI 工程化领域的各种新概念(Context、Harness、Loop、Eval、Graph Engineering),指出这些 Engineering 拆到最后,核心仍然是提示词。作者认为,现代提示词已不只是聊天框里的几句话,还包括系统规则、任务资料、工具说明、历史结果、失败反馈和完成标准。Agent 的难点在于把事情真正做完:避免重复步骤、选错工具、提前结束等问题。文章分别阐述了五大 Engineering 的职责——Context 管每轮给模型看什么,Harness 管工具与环境的接入说明,Loop 管根据反馈迭代,Eval 管验证任务是否真完成,Graph 管流程节点与路由。最终结论:代码管边界(权限、轮次),提示词管边界内的判断。
作者提出一个大胆猜想:真正的AGI可能不是人们预期的单一超级模型,而是已经以分布式、碎片化的形式悄然存在。文章从图灵的通用机器论文谈起,指出历史上重大技术往往从侧门进入而非被刻意预见。随后阐述智能的本质是涌现行为——单个神经元或蚂蚁并无智能,但数十亿神经元连接成大脑、蚁群协作建城,便产生集体智能。现代LLM的注意力头机制和混合专家架构也已表明,最强大的AI系统并非单一心智,而是由大量专门化电路分布式协作构成。因此,AGI可能正在以我们尚未识别的形态一点点浮现。