Wiki 知识库

全部文档 / 标签: 延迟

2 篇
清除

Is Jev overhyped? We tested it on 4 real enterprise tasks.

作者基于 Glean 的四个真实企业场景测试了 Jev——一个输出类型化决策(选项、分数、概率)而非生成文本的'System One'模型。文章梳理了通用 LLM、零样本分类器、微调分类器与 Jev 的替代方案权衡,并对比了 Qwen/SGLang、Kev 等开源复现。实验显示:查询分类上 Jev 零样本明显优于 Laya 但微调后反超;模型路由(专家转移)是最强结果,准确率更高且中位加速 8.1 倍;重排序中 Jev 的 Choice 表述最强,但平均 41 个候选中约 37 个分数相同需靠生产排序打破平局。结论是 Jev 在新任务或标签频繁变化时最具吸引力,是否被高估取决于具体场景。

技术 › LLM Tony Gentilcore 2026-09-2913.0 KB 196.4K 379 83

System Design for Beginners: How to Start With HLD and LLD

本文面向系统设计初学者,清晰区分高层设计(HLD)与低层设计(LLD)。HLD关注系统整体架构,如组件交互、数据存储与扩展性;LLD关注代码级细节,如类、对象与设计模式。文章强调两者缺一不可,并深入讲解请求流程、延迟与吞吐量、垂直与水平扩展等核心概念,为初学者提供了一条清晰的学习路径。

技术 › 后端 Harshit Khosla 2026-09-1475.9 KB 61.3K 1.1K 61