Wiki 知识库

Is Jev overhyped? We tested it on 4 real enterprise tasks.

Tony Gentilcore 2026-09-29 13.0 KB 196.4K 379 𝕏 文章列表

作者基于 Glean 的四个真实企业场景测试了 Jev——一个输出类型化决策（选项、分数、概率）而非生成文本的'System One'模型。文章梳理了通用 LLM、零样本分类器、微调分类器与 Jev 的替代方案权衡，并对比了 Qwen/SGLang、Kev 等开源复现。实验显示：查询分类上 Jev 零样本明显优于 Laya 但微调后反超；模型路由（专家转移）是最强结果，准确率更高且中位加速 8.1 倍；重排序中 Jev 的 Choice 表述最强，但平均 41 个候选中约 37 个分数相同需靠生产排序打破平局。结论是 Jev 在新任务或标签频繁变化时最具吸引力，是否被高估取决于具体场景。

Jev分类模型模型路由重排序Glean微调零样本System One推理成本延迟

相关文档

新模型 Jev 爆火，5 天挤进 14 万开发者：快 200 倍、便宜 400 倍

文章介绍了发布即爆火的新模型 Jev（TypeSafe 公司出品），它不生成文本，只做判断：路由、分类、打分、审核。相比大模型，它判断速度快 40-200 倍（0.1 秒级），成本便宜约 400 倍，且因输出限定在预定义选项内而不存在幻觉空间。创始人 Diogo Almeida 是前 OpenAI 研究员。文章给出了三条免费或低成本使用方式（OpenJev、官方 waitlist、OpenRouter），并冷静指出官方数据的局限：444 倍提升是评测上限，第三方实测准确率约 68%。Jev 定位为给大模型打配角的 System One 模型，适合 Agent 场景中的高频小判断。

技术 › LLM 路飞 2026-09-20
JevTypeSafeSystem One模型路由内容审核Agent推理成本OpenRouterAI判断幻觉

Will TypeSafe's Jev change how we build AI applications?

文章分析了 TypeSafe 发布的新模型 Jev——一种只能做分类、评分和路由决策、不能生成文本的'System One'模型。Jev 比通用 LLM 快 40-200 倍、便宜 40-400 倍，通过 RLCD 训练方法实现零样本概率判断。早期独立测试显示其准确率接近 GPT-5.6 等大模型，垃圾邮件分类甚至可媲美有标注训练的分类器。代价是失去了解释能力，无法说明判断理由。作者认为这可能改变 AI 应用架构：用 Jev 做大规模廉价监控评估，用 LLM 判官处理少量样本以获取改进方向信号。

技术 › LLM Aparna Dhinakaran 2026-09-19
JevTypeSafeLLM-as-a-judge模型评估System One分类模型RLCD成本优化模型路由AI应用架构

Building a Harness with Jev

本文介绍 TypeSafe AI 发布的新模型 Jev，一种名为 System One 的非传统 LLM 模型。Jev 不生成文本，而是通过 RLCD 强化学习训练，对给定状态快速返回结构化决策（Choice、Score、Noul 三种问题类型）及概率，推理速度最高快 200 倍、成本低至 1/400。文章展示了如何通过 LangChain 的 TypeSafeClassifier 集成 Jev，并给出两大应用场景：模型路由（根据任务复杂度自动选择低成本或高性能模型）和 Auto Mode（对危险工具调用进行分类守护，提升 Agent 可信度）。Jev 适合作为 LLM 的补充，在 Agent 循环中承担快速、低成本的分类决策。

技术 › Agent Sydney Runkle 2026-09-18
JevLLMAgentLangChainSystem OneRLCD模型路由分类模型Harness EngineeringTypeSafe AI

Jev 新手指南：System One 判断型模型入门

本文是 Jev（一个通用 System One 模型）的新手指南。Jev 专为快速、聚焦的判断设计，而非长推理或开放式写作。用户给它提供上下文（状态）和决策表（问题），它返回结构化答案及不确定性概率。答案类型包括 Choice（单选）、Noul（是/否概率）和 Score（有序打分），可一次请求多个互不影响的问题。文章介绍了 Jev Playground 中的六个用例，如支持工单分流、模型路由、Agent 工具调用守卫、智能家居请求等，并强调最终决策应由代码完成：设置阈值、硬规则和权限判断。Jev 适合重复性、答案有界的判断场景，但在算术、计数、日期、对抗性输入等方面表现不均，需谨慎使用。

技术 › LLM elvis 2026-09-21
JevSystem OneLLM模型路由Agent判断型模型TypeSafe AI概率输出新手指南AI Playground

拿到 Jev，然后呢？剔掉虚火之后的一份真实落地清单

TypeSafe AI 于 2026 年 9 月发布的 Jev 是一个只做选择题的 AI 模型（单选、打分、是/否），响应 0.07–0.5 秒、输入价格极低、输出免费。作者梳理了官方数据及 Hacker News 上的质疑，指出“Jev 取代大模型”是伪命题，其合理定位是高频、低价地执行小判断。文章按用途分类整理了已真实跑通的案例：为 AI Agent 当决策器、海量数据分类、高低置信度分流混合架构、实时反应界面和仿真实验，并列举了已接入的商业产品。作者还分享了自己四次失败的集成尝试与两轮实测结论，强调概率校准的重要性。

技术 › LLM huangserva 2026-09-19
JevTypeSafe AILLM模型评测AI Agent分类模型推理成本OpenRouter落地案例概率校准

一文解密 Jev：一个不聊天的模型，为什么突然火了？

TypeSafe AI 于2026年9月发布的 Jev 是一个不做对话和内容生成的专用判断模型，主打低成本、高速度地解决软件中的小型理解判断任务，如工单分类、优先级评分和概率判断，提供 Choice、Score、Noul 三种能力。其极低价格（每百万输入token 0.042美元）和 Vercel、Netlify 的快速接入引发开发者关注。文章分析了其'零幻觉'宣传的真实含义、评测数字的适用边界，并指出 Jev 的价值在于与生成式模型、程序和人分工协作，让软件能以低成本读懂小问题。

技术 › LLM Ray Wang 2026-09-19
JevTypeSafe AILLM分类模型System OneRLCDAgent模型分工成本优化推理

火爆全网的Jev到底是什么？

文章介绍了旧金山创业公司 TypeSafe 推出的闭源基础模型 Jev。它不做文本生成，只做判断题、选择题和打分题，输出严格限定在预设选项内，可在约100毫秒内出结果，成本极低。其核心技术是通过 RLCD 强化学习实现概率校准，类似于卡尼曼所说的 System 1 快思考，与传统大模型的慢思考互补。文章展示了社区应用案例，如浏览器 Agent、游戏实时决策、LangChain 工具路由、AI 输出审核等，也指出其在数数、算数、多跳推理和中文上的短板及提示词注入风险，认为 AI 调用正在走向分层架构。

技术 › LLM 泊舟 2026-09-19
JevTypeSafeAI模型分类模型AgentSystem 1RLCD概率校准模型路由推理效率

System One Models: What Comes After Agentic Software

文章介绍 TypeSafe 发布的 Jev 模型，一种用于快速语义决策而非生成或长推理的 System One 模型，延迟低至 70ms 且成本低廉。作者认为这类模型可将小型语义智能分散嵌入应用的各个决策点，而非集中于 Agent 循环中，从而推动微推理时代的到来。这将使代码库中包含更多非确定性判断，同时应用层更明确地掌控编排控制流，推理模型则退居处理模糊和复杂案例的升级路径。文章还探讨了围绕微推理所需的基础设施（批处理、缓存、模型路由），并以自动驾驶和 Waymo 的 ML-primary 架构类比这种通用语义模型进入控制循环的新范式。

技术 › LLM Josh Rosen 2026-09-17
System OneJev微推理Agent架构语义决策TypeSafe推理模型AI架构模型路由嵌入推理

全网最详细的 Jev 及同类决策模型学习资料导航：12 大主题、58 份资料、80 个链接

本文系统整理了 Jev 及同类决策模型的学习资料，涵盖 12 大主题、58 份资料、80 个链接。文章首先解释了 Jev 是 TypeSafe AI 推出的决策模型，输入为状态、问题和候选项，输出为结构化的选择、评分及概率分布。作者分析了评估此类模型的关键维度：动态候选项、受限输出与概率校准、推理方式、训练方式及答案边界。随后提供了按目的划分的阅读路径（入门、本地试用、训练研究、中文场景、Agent 应用），并分类整理了云端决策服务（OpenAI Decisions、Liquid d1）、开放模型（Cloudflare Clef、Perplexity Decider、GLiNER2.5-Decide）及本地社区实现（Laya、Kev）等资源，是一份完整的决策模型学习导航。

技术 › LLM Smartpig 2026-10-08
Jev决策模型LLMRLCD概率校准受限输出分类模型Agent学习资料导航开放模型

Jeff：把 Jev 类决策模型压到 0.8B，跑在本地

Mathias Strasser（Scissero）基于 Qwen3.5 和 Gemma 4 微调出 Jeff 系列 0.8B/2B 决策模型，用于零样本分类：输入描述与选项，一次前向传播返回各选项校准概率。模型在 RTX PRO 6000 上约 22 毫秒、M4 Max 上 28 毫秒即可完成一次决策，0.8B 仅 1.7GB，可直接本地部署。整体基准分 Jeff-2B 达 83.1，几乎追平 Jev 的 83.0；Doom 零样本测试中 Jeff-0.8B 在无人提示规则下达到 6.55，追平 Jev 公布成绩。作者诚实列出局限：不能推理、最多 26 个选项、只支持英文文本等。代码 MIT、权重 Apache 2.0 开源。

技术 › LLM yibie 2026-09-30
JeffJev零样本分类本地AI小模型微调开源基准测试决策模型MLX

有人把 Jev 开源复刻了，还给出了「自己微调」的完整闭环

Jared Palmer（Cognition）开源了 Kev，一族建在 Qwen3.5/3.8 之上的 Jev 式小型决策模型（0.8B~27B，Apache-2.0）。文章介绍了 Kev 与 Jev 的对比数据：Kev-27B 在新数据源上与 Jev 相差一个点以内，但作者强调这不是受控比较。最有价值的部分是完整的微调闭环：通过 coding agent 的 skill，可自动从用户代码中找出问题、转换已有标签、在 Modal 上微调并部署，一次 Kev-4B 训练在 H100 上约 1 美元，示例中把准确率从 67.7% 提到 73.6%。文章还总结了校准温度、问题隔离设计等工程细节，以及作者诚实的自我限制态度。

技术 › LLM yibie 2026-09-28
KevJev开源微调决策模型Qwencoding agent部署模型对比

把 GLM-5.3-Flash 变成一个 Jev 式的 System One 模型

本文介绍一种无需微调的方法，把现成的 LLM（GLM-5.3-Flash）变成类似 Jev 的专用决策模型（System One 模型）。核心做法是给选项编号、预填答案、通过读取选项索引上的概率分布，让模型在一次前向传播中给出类型化决策及其置信度。文章详细说明了 vLLM 部署中的三个实现细节（allowed_token_ids、logprob_token_ids、tokenizer 分词），并在 29 个公开数据集上与 Jev、Laya 进行基准对比：文本决策准确性与 Jev 相当，延迟相近但成本较高；由于具备视觉能力，还能做图像上的类型化决策，这是 Jev 和 Laya 做不到的。文章还讨论了推理模式的准确性收益与成本代价、选项数量与重命名对结果的影响，并开源了实现与基准代码。

技术 › LLM yibie 2026-09-28
LLM决策模型GLMJev基准测试vLLM多模态置信度System One机密计算