Designing the Backend for Agent Systems (Part 2)
本文是 Agent 系统后端设计三部曲的第二篇,提供一套可参考的 Agent 应用后端架构模板,涵盖 API、队列、Worker、流式输出、结构化输出、会话管理及成本限制等八层设计。文章批判了在 HTTP 请求中同步执行 Agent 的做法,强调应先持久化再入队、引入幂等键防止重复计费、使用显式任务状态机(含 awaiting_input 人工介入状态)和取消机制,并强调租户身份隔离、UUID 任务 ID、Pydantic 输入校验等安全与成本控制实践。