作者面试一家 AI+Web3 公司失败后，获得面试官分享的《Agent工程师入门指南》，并结合自己的学习心得整理成一条完整的 Agent 工程师学习路线。内容涵盖 LLM 基础（Transformer、Token、上下文窗口、采样参数、API 协议、流式输出、结构化输出、工具调用、Embedding）、Prompt Engineering（Zero-shot/Few-shot、CoT、ReAct、Reflexion）以及 RAG（文档解析、分块、检索与重排）等核心知识。每个知识点都附有学习文档链接、项目要求和验收标准，帮助学习者系统掌握 AI 应用开发技能并检验学习成果。
本文深度解读斯坦福 2026 秋季课程 CS329Z 第二讲「LLMs for Builders」讲义，面向 Agent 工程师系统讲解 LLM 底层原理。内容涵盖：自回归概率分解与解码采样策略；从 RNN 到 Transformer、线性注意力的架构演进及其工程取舍；预训练、中期训练与后训练（RLHF、RLVR）管线；推理阶段的 Prefill/Decode、KV Cache、投机解码与推理时扩展；最后落脚到 Agent 开发的结构化 I/O 与上下文工程实践，强调'设计决策→局限→应用策略'的因果链。
文章介绍了TypeSafe AI于2026年9月发布的Jev模型，一个不做文本生成、只做封闭判断的“System One Model”。它提供三种能力：Choice（选项选择）、Score（等级打分）和Noul（真假概率判断），直接返回类型化结果和概率，省去生成文本的延迟和成本。文章分析了Jev与生成式模型的本质区别，指出类型安全只保证接口格式而非事实正确，概率不等于正确率，并详细说明其在缺陷分诊、Agent路由、发布说明审核等真实场景中的应用方法，以及官方Agent Skill倡导的AI工作流拆分法：代码负责计算和规则，模型只做清楚的语义判断。
文章介绍了由前 OpenAI 研究员、ChatGPT 共同发明人 Diogo Almeida 创办的 TypeSafe AI 发布的 Jev 模型。与传统对话式 LLM 不同，Jev 是一个'系统一模型'，不生成文字，而是直接返回结构化决策结果（是/否判断、多选一、评分三种原语），采用并行采样和 RLCD 校准决策强化学习，响应速度可快达数百倍、成本低数十倍且结构化输出零错误。文章详细讲解了 Jev 的原理、适用场景（工单分类、Agent 决策中间层、内容审核、实时游戏等），并提供了 Playground、API/SDK、Vercel/Cloudflare 平台及 AI 工具 Skills 接入等保姆级使用教程。
文章介绍如何将开源 LLM 变成快速、本地的决策引擎，而无需重新训练。核心思想是：当应用已知所有可能的答案时，不必让模型生成文本或 JSON，而是通过 next-token scoring 一次性为每个候选答案返回分数和概率分布。作者讲解了固定答案打分与结构化输出的区别、LLM 第一个输出 token 的生成原理，并使用 SGLang 的 /v1/score 接口，结合 Qwen 和 DeepSeek 模型进行实测，与普通文本生成进行了基准对比。文中还提到概率的含义与校准问题。
文章介绍了 TypeSafe 于 2026 年 9 月发布的 Jev 模型——一个专注于快速、低成本语义决策的"系统一"模型。传统 LLM 在智能体循环中处理大量小型判断（如工单分类、命令风险评估）时逐 token 生成，速度慢且成本高。Jev 通过三种原语（Choice、Score、Noul）接受非结构化输入，返回带概率的类型化答案，端到端延迟 70-500 毫秒，输入价格仅为 LLM 的一小部分。文章分析了概率置信度在自动决策中的作用、RLCD 校准训练方法，并澄清"无法幻觉"的说法：Jev 不会打破输出 schema，但仍可能自信地选错选项，适合与 LLM 配合而非替代。
作者用四份宇树科技公开申报材料构建了10万字符的证据包，对蚂蚁百灵金融模型 Ling-3.0-flash-Fin 进行三轮相同条件实测。前两轮均达 32/33 字段正确、19/20 整项正确，且对无答案问题不硬编；第三轮内容大体正确，却因 JSON 结构错误导致程序无法解析，形成'API 返回 3/3，严格结构化交付 2/3'的结果。文章指出模型进入真实金融工作流后，关键不再是答对问题，而是稳定交付下游可用的结构化结果，建议采用 JSON Schema 校验、失败重试与人工复核的生产路径，认为该模型适合作为金融 Agent 的中间推理层，但尚不能无人值守接管工作流。
文章介绍了盛颖在 xAI 和 RadixArk 的工作，重点讲解了 SGLang 的核心技术 RadixAttention 和结构化输出，以及 AI Infra 的工程实践和开源价值。
