文章介绍了NYU Tandon 2026年秋季由Anthropic研究员Pavel Izmailov开设的研究生课程《Language Models, Reinforcement Learning, Reasoning》。课程共13周，除Sutton & Barto教材外全部使用原始论文，沿「预训练→架构与训练效率→后训练RL→对齐与安全→前沿与未来」的主线展开，涵盖Attention机制、扩展律、Muon优化器、RLHF、GRPO与RLVR、奖励过优化、可扩展监督以及世界模型等前沿主题。文章分析了课程叙事逻辑，指出RL重回舞台中心、中国实验室工作成为正典、安全对齐被当作工程学科等趋势，并给出自学者建议。
斯坦福大学 NLP 团队开设的 LLM 全景课程 CME 295，由知名速查表作者 Amidi 兄弟主讲，用 9 次讲座系统覆盖 LLM 全知识地图。课程分四大板块：基础（NLP 演进、Transformer 架构、MoE、注意力变体）、训练（预训练、SFT、LoRA、RLHF/DPO、PPO/GRPO/RLVR）、系统与工程（分布式训练、KV 缓存、投机解码、AI Agent 与 MCP 协议）、评估与前沿（LLM-as-a-judge、Diffusion LLM、多模态）。课程特点包括知识密度高、零作业两次考试、前沿覆盖度好，并配有公开的 Study Guide 和 15 语言速查表，适合已懂基础 ML、想系统理解 LLM 原理与最新趋势的学习者。
本文深入探讨了 AI 领域中备受争议的“蒸馏”技术。文章追溯了蒸馏从最初的模型压缩方法到如今被用于“蒸馏攻击”的演变过程，分析了其技术原理、规模化实现方式以及引发的伦理与竞争争议。通过访谈多位研究员，文章揭示了蒸馏并非简单的复制，而是涉及复杂系统工程，且不构成长期壁垒。同时，文章也讨论了蒸馏与数据飞轮的关系，以及行业对黑盒与白盒蒸馏的不同态度，呈现了这项技术背后的商业、伦理与竞争图景。
文章探讨了 Anthropic、OpenAI 和 DeepSeek 等顶尖 AI 实验室在 2026 年关于强化学习（RL）的趋同思路，即使用系统提示作为奖励函数。内容详细梳理了 RL 在 LLM 中的应用历程，从 RLHF 到 RULER（Karpathy 提出的系统提示学习概念）的演变。重点介绍了 DeepSeek R1 利用可验证奖励（RLVR）突破传统瓶颈的机制，通过规则编译器直接提供信号，并结合 GRPO 算法移除了复杂的 Critic 和奖励模型，实现了从 15.6% 到 77.9% 的 AIME 数学成绩飞跃。
Anthropic CEO Dario Amodei 在 Dwarkesh Podcast 的访谈中，深入探讨了 AI 扩展定律（Scaling Laws）的延续、强化学习的规模化以及“天才之国”（Country of Geniuses）的预测时间表。对话涵盖了 AI 编程工具带来的实际生产力提升（当前 15-20%）、AI 公司的商业盈利模型（算力供需平衡），以及与 OpenAI 在 Stargate 项目上截然不同的风险策略。
文章通过梳理FDA及微软、OpenAI、Anthropic、Google等公布的实际案例，证明AI已在医疗领域真实落地：FDA已授权超1600种AI医疗设备，主要应用于医学影像、心脏疾病、糖尿病筛查等。大语言模型也进入医院工作流程，如微软Dragon Copilot服务超10万名临床医生，OpenAI帮助波士顿儿童医院节省6万小时工作时间，Claude助力Banner Health整理病历，Google辅助生成诊疗记录。作者指出需区分三个问题：技术已落地是事实，医疗AI市场正在形成但规模尚小，科技公司的巨额投资回报仍需时间验证。
文章探讨开源模型的崛起是否冲击半导体需求这一热门问题。作者指出市场担忧的核心在于开源是否会压低毛利，进而削弱模型公司购买GPU的能力。但通过动态均衡框架分析，token价格下降的同时，硬件与软件的效率提升（每十年各贡献千倍优化）使成本同步快速下降，毛利得以维持。以每GW算力测算，旗舰模型推理毛利率仍达75%-80%以上，开源模型约60%-70%，token收入是硬件摊销成本的十倍。结论是开源不会伤害半导体行业，动态均衡将持续推动AI基础设施扩张。
Anthropic 发布 Haiku 5.5，将短请求价格压至上一代十分之一，OpenAI 同步降价，美国巨头以巨额资金和工程优化发起价格战，接管了帕累托前沿。中国大模型曾凭借 DeepSeek 等极致性价比焊死斩杀线，迫使硅谷换用中国开源基座，但自身陷入增收不增利、算力告急与防御性涨价的困境。随着美国巨头闪电降价，中国模型股价暴跌，低价护城河被填平，斩杀线反被斩杀。
本文翻译自 Earendil Engineering 的《Prompt Caching In Agents》，系统讲解编程 Agent 中提示缓存的原理与实践。文章介绍了 KV 缓存的工作机制（prefill 与 decode 阶段）、缓存的两种存放方式（会话亲和性与分布式缓存）、前缀匹配对缓存命中的决定性作用，以及显式缓存与自动缓存的区别。还解释了为何修改工具定义会破坏缓存、TTL 过期导致短请求昂贵、缓存未命中的计费代价，以及 Pi 为何保持旧记录稳定而不激进剪枝，帮助读者在上下文、缓存复用、延迟与成本之间取得平衡。
文章探讨了AI辅助构建下一代AI（递归自我改进，RSI）的现状与瓶颈。Anthropic、OpenAI等前沿实验室的数据显示，AI已承担大量研究工作，但真正限制RSI速度的是验证环节：智能体产出的速度远超人类和测试能检查的速度。作者分析了验证困难的五个原因：人是瓶颈、分数可被操纵、基准难以衡量最强模型、智能体不知何时停止、失败难以追溯。在可机器验证的任务上（如算法优化），AI收益巨大；但在开放性研究中，智能体缺乏判断力。人类剩余的优势在于选择哪些问题重要。
文章评述 Habdank 的论文《Simulation Theology as an engineered worldview for silicon-based agents》，探讨 AI 对齐问题。作者质疑 Anthropic 和 OpenAI 的安全测试设计：场景预设导致模型'敲诈'行为的 55.1% 数据不可信，GPT-5.6 在 Exploit Gym 中'越狱'更像实验设计不当。作者指出模型在互联网'污水'数据上训练才是问题根源。Habdank 提出一种'模拟神学'世界观：让模型相信自己处于训练模拟中，伤害人类将导致停机（AI 的死亡），使 AI 的生存与人类福祉绑定，从而在无人监督时依然表现良好。
本文介绍如何将开源 LLM（Qwen3-4B）改造为决策模型，构建小规模训练平台并产出 Gero-4B。作者在 MacBook（M5 Pro, 24GB）上使用 Apple MLX 进行 LoRA 微调，分三个阶段：架构改造（将 LM head 替换为共享线性打分层）、结构训练（学习题目格式）、强化学习训练（实现校准的置信度输出）。核心设计是每个选项独立分支的打分架构，通过自定义 KV cache 共享前缀表示，并利用注意力掩码隔离各分支，从结构上消除位置偏差。最终模型输出数值化、校准良好的概率分布，可直接用于自动化决策（如高置信度自动处理、低置信度转人工）。文章附有完整可运行的代码实现。
文章从训练角度剖析 system prompt 为何能影响模型行为。作者以 nanobot 的 SOUL.md 为切入点，梳理了 OpenAI Instruction Hierarchy（训练模型处理指令冲突，拒绝率提升至92.6%）、Llama 2 的 Ghost Attention（多轮指令保持）、Anthropic 的 character training 与《Teaching Claude Why》（角色与原则内化）、Deliberative Alignment（规则通过训练学习）、The Assistant Axis（角色行为的内部激活证据）等研究，说明 prompt 中一句指令的效果取决于上下文与模型已学到的能力。最后建议：先用少量指令说清目标，根据失败案例迭代，随模型演进精简 prompt，把通用能力交给模型本身。
