Wiki 知识库

全部文档 / 作者: elvis

6 篇
清除

Jev-as-a-Judge for Agent Evaluations

本文介绍了如何使用 TypeSafe AI 的决策模型 Jev 作为 LLM Judge 来评估 Agent 的表现(Jev-as-a-Judge)。与只看最终回复不同,Jev 会阅读完整轨迹(用户请求、工具调用及结果、最终回复),将标准转化为预定义问题,并返回带置信概率的判定。文章通过退款 Agent 示例演示了 Playground 的使用,说明如何设定阈值将运行分为通过、失败和人工复核三类。研究显示,该接受-升级模式比 GPT-6 单独判断更准确且成本大幅降低。作者强调需先用人工标注验证 Jev 的可靠性,能用代码检查的事实性问题就不需要 Judge,将 Jev 保留给需要阅读理解的判断。

技术 › Agent elvis 2026-10-078.3 KB 92.7K 438 83

Building a Custom Harness with Pi and Jev

本文是构建自定义 AI Agent Harness 的教程。Harness 是驱动 Agent 循环的代码,负责模型路由、工具安全检查和答案校验等判断决策。传统做法需调用聊天模型,成本高导致检查被跳过。Jev 是 TypeSafe AI 推出的专用小型决策模型(System One 模型),以 0-1 概率快速回答问题,成本极低,可对每步操作进行实时检查。教程使用 Pi SDK(TypeScript 工具包)构建 Harness,通过 beforeToolCall 等钩子集成 Jev,实现破坏性操作拦截、模型路由、失败降级和答案质量校验,并以徒步调查笔记 Agent 为运行示例演示完整流程。

技术 › Agent elvis 2026-09-2417.4 KB 126.8K 1.2K 84

Jev 新手指南:System One 判断型模型入门

本文是 Jev(一个通用 System One 模型)的新手指南。Jev 专为快速、聚焦的判断设计,而非长推理或开放式写作。用户给它提供上下文(状态)和决策表(问题),它返回结构化答案及不确定性概率。答案类型包括 Choice(单选)、Noul(是/否概率)和 Score(有序打分),可一次请求多个互不影响的问题。文章介绍了 Jev Playground 中的六个用例,如支持工单分流、模型路由、Agent 工具调用守卫、智能家居请求等,并强调最终决策应由代码完成:设置阈值、硬规则和权限判断。Jev 适合重复性、答案有界的判断场景,但在算术、计数、日期、对抗性输入等方面表现不均,需谨慎使用。

技术 › LLM elvis 2026-09-215.9 KB 130.3K 927 72

What Comes After the Prompt

文章探讨了超越传统提示词的多模态交互技术,提出“任务”概念,通过结合语音、屏幕、文本等多种信息源,让代理更高效地完成复杂工作。该方法减少交互循环,提升并行工作能力,并通过存储执行痕迹逐步转化为可重用的技能,为未来全模型交互奠定基础。

技术 › Agent elvis 2026-07-237.6 KB 27.4K 67

从 Prompting 到 Loop Engineering:AI 编程的新范式

文章提出 AI 编程领域正在从人工编写提示转向设计循环。Loop Engineering 是指编写自动化的程序来驱动编码 Agent,通过设置目标、执行、检查和反馈的闭环,实现无人值守的代码生成与修复。文章分析了循环的五种演进形式及六个核心组件(如触发器、隔离、上下文等),并结合 Claude Code 的 /goal 命令展示了具体的工程实践。

技术 › Agent elvis 2026-06-2033.7 KB 265.2K 982

使用 Fireworks Agent 自动化 LLM 微调全流程

本文介绍了如何利用 Fireworks Agent 实现 LLM 微调(SFT)的全自动化。文章以 Andrej Karpathy 的“个人 LLM Wiki”理念为引,阐述了将知识注入模型权重比单纯依赖上下文窗口更高效。通过 Fireworks Agent,作者展示了从数据集检查、超参数搜索、模型训练到部署推理的完整闭环,无需人工干预繁琐步骤,仅需少量 GPU 时间和极低成本,即可训练出具有特定输出风格(如 Wiki 摘要风格)的模型,为构建自我进化的 Agent 铺平了道路。

技术 › Agent elvis 2026-05-2115.5 KB 46.8K 110 83