Wiki 知识库

全部文档 / 标签: LLM

1041 篇
清除

Jev 火了:我整理了 20 个真正适合国内用户的用法

文章介绍了近期海外开发者圈爆火的 AI 工具 Jev。它不是生成型模型,而是专注于毫秒级、极低成本的大量小判断,核心能力包括 Choice(选择)、Score(评分)和 Noul(概率判断)。作者整理了 20 个适合国内用户的应用案例:内容创作领域包括小红书标题爆款体检、检测文章 AI 味、筛选海量新闻素材、个性化信息流过滤;企业场景包括客服工单自动分类、销售线索分级、表单自动填写;开发者场景包括代码审查、AI 代码质检、编码 Agent 监工、MCP 集成、Agent 执行前的安全检查、长期运行 Agent 的记忆清理,以及智能家居和浏览器 Agent 操作等。

技术 › LLM 三个三 2026-09-2221.3 KB 69.9K 494 79

Polar: 如何让 LLM 写出的 UI 不偏离设计系统

本文翻译自 Polar 官方博客,介绍其新设计系统 Orbit 背后的思考。随着 LLM 和 Coding Agent 大量参与前端 UI 开发,传统基于 Tailwind 字符串的样式写法导致设计一致性难以保障。Orbit 的核心思路是:将设计规范从文档升级为代码约束——Token 按设计意图命名(如 background-card),通过 StyleX 构建类型安全的 Box 组件作为唯一样式入口,禁止直接使用原始 div,并在 CI 中以 Oxlint 规则强制执行,使偏离设计系统的代码在机制上无法通过。文章强调文档只是概率性建议,CI 才是确定性契约。

技术 › 前端 RicoUI 2026-09-2220.1 KB 19.1K 182 83

Jev WeChat 微信群聊助手开源项目分享

作者分享了一个开源的 Jev WeChat 微信群聊助手项目,可用 AI 自动分析群聊意图并生成候选回复,解决不懂人情世故、微信客服和群助手自动化等场景。项目发布后引发热议,网友讨论了封号风险(建议用小号测试安卓设备)、适用场景(私域运营、客服、销售、情侣群聊)、技术实现(使用 DeepSeek 生成回复)等。文中还附带分享了 Agent Space 订阅管理产品和 6 个大模型写 Space Invaders 的横向评测 benchmark,以及出海增长工作坊推荐等内容。

技术 › Agent 李韭二 (@li9292) 2026-09-2213.3 KB 36

一文读懂 RSI:AI 能自己变得越来越聪明吗?

文章系统科普了递归式自我改进(RSI)的概念:会反思、改答案或保存记忆并不等于真正的自我进化。真正的 RSI 要求改动深入权重、工具或研发流程,且升级后的系统能更有效地进行下一轮升级。文章梳理了从输出级、学习级、工作流级到研发级的技术进展(Self-Refine、STaR、DGM、AlphaEvolve 等),解释了完整 RSI 尚未出现的原因:评估困难、奖励投机、边际收益递减与减速机制。最后给出安全治理框架和判断 RSI 声明真伪的八问验货清单。

技术 › LLM Cloris 2026-09-2217.7 KB 64.2K 101 85

Loop Engineering for Sub-Dime Agents: Cutting Token Costs in AI Coding Harnesses

本文探讨如何通过循环工程降低自主编码 Agent 的 Token 成本。以一个 5 轮 PR 修复任务为例,未优化的 Harness 消耗 81,000 tokens($1.53),而优化后仅需 12,050 tokens($0.042)。核心机制包括:稳定的系统前缀以最大化 KV 缓存命中;基于 AST 的工具输出压缩,仅提取代码骨架;沙箱确定性工具预检与自动修复,避免浪费 LLM 推理;MCP 工具 Schema 的按需懒加载与 Code-Mode 执行;以及双层级模型路由(Workhorse 处理机械性任务,Frontier 处理复杂规划),并定义了四种确定性升级触发条件,实现亚角级(sub-dime)任务成本。

技术 › Harness Engineering Balaji Subramaniam (Google Cloud) 2026-09-2211.8 KB 49.6K 359 90

全网爆火的 Jev 究竟是什么?一篇文章为你讲透

文章介绍了爆火的 Jev 模型:一个专门做'判断'的 AI 模型,与传统生成式模型 GPT、Claude 不同,它不做长文生成,而是快速对内容进行分类、打分和分流,类似卡尼曼《思考,快与慢》中的 System 1 快速思维。文章讲解了 Jev 与传统模型的区别、适用与不适用场景(适合规则稳定的判断任务,不适合快速变化的结论),并介绍了通过 TypeSafe AI 官网、OpenRouter、Vercel 等渠道使用的方法,最后通过银行客服分流、交通信号灯动态调度、内容审核筛选、AI Agent 判断层等实际案例说明其应用价值。

技术 › LLM 程序员小灰 2026-09-2112.0 KB 3K 5 78

Jev 这种类型决策模型出现意味着什么?

文章探讨 Jev 这类'认知 ASIC'式类型决策模型的意义。作者指出传统 LLM 的直觉只是符号层面的 System 1,与人类根植于具身经验的直觉存在本质断裂;CoT 推理模型则是显式展开的符号 System 2。Jev 将高频、受 Schema 约束的判断从语言生成中剥离,编译为强类型决策原语,实现低延迟确定性收敛,类比 CPU 与 ASIC 的分工。文章进一步论证 Agent 虽有因果介入权却缺乏不可逆的生存代价,无法产生真实品味,因此需构建价值声明治理体系,守住人类主体经验的溯源锚点。

做 AI 内容的人,都在看哪些信息源?

作者分享了做 AI 内容时常用的高质量信息源,并按主题分类介绍:AI 模型与 Coding Agent 方面推荐 LINUX DO、r/LocalLLaMA、r/cursor、r/ClaudeAI;基础设施与低成本部署方面推荐 NodeSeek 和 LowEndTalk;独立开发与产品冷启动方面推荐 V2EX、r/SaaS、Indie Hackers、r/SideProject;开源趋势与学术前沿方面推荐 GitHub Trending、Latent Space、The Pragmatic Engineer、arXiv 和 Hugging Face Daily Papers。文章还提及作者自用的跨平台检索 skill 及其 GitHub 项目,强调一手实测数据和真实用户反馈的价值。

技术 › 工具与效率 siuser小伟 2026-09-218.6 KB 13.3K 81 76

Jev 新手指南:System One 判断型模型入门

本文是 Jev(一个通用 System One 模型)的新手指南。Jev 专为快速、聚焦的判断设计,而非长推理或开放式写作。用户给它提供上下文(状态)和决策表(问题),它返回结构化答案及不确定性概率。答案类型包括 Choice(单选)、Noul(是/否概率)和 Score(有序打分),可一次请求多个互不影响的问题。文章介绍了 Jev Playground 中的六个用例,如支持工单分流、模型路由、Agent 工具调用守卫、智能家居请求等,并强调最终决策应由代码完成:设置阈值、硬规则和权限判断。Jev 适合重复性、答案有界的判断场景,但在算术、计数、日期、对抗性输入等方面表现不均,需谨慎使用。

技术 › LLM elvis 2026-09-215.9 KB 130.3K 927 72

提示词的尽头,是把问题说清楚

文章借用维特根斯坦的语言澄清思想,探讨在顶级模型时代提示词的意义。作者认为提示词的核心不是魔法措辞,而是澄清需求:语言可以把模糊的愿望包装成看似完整的指令,如'更好''漂亮''最佳'都缺少参照和取舍。作者指出说不尽的美学偏好可以通过示例和参照来沟通,澄清需求可以是对话的成果而非前提。好的提示词是:能说清楚的说明白,难以说尽的给参照,存在冲突的讲取舍,最后检验结果。

技术 › LLM 知识猫AI实验室 2026-09-2110.7 KB 11.4K 55 64

我把 JEV、GrokBot、X 玩到了一起

作者介绍了 TypeSafe 推出的 Jev(业内称 System One),一个快速判断模型:输入状态和固定题目,仅返回选项、分数或概率并带置信度,延迟约 70-500ms。作者将 Jev 与 Grok Bot 结合:Grok Bot 负责抓取时间线、读提及、执行动作等重活,Jev 负责快速分流判断(值不值得管、急不急、是不是广告等)。作者以盯 X 时间线为例,对每条帖子跑四问测试,平均耗时约 235ms,下一步判断 8/8 正确。作者提醒不要神化 Jev,其 confidence 不等于统计准确率,敏感操作仍需人工把关。核心思路:Jev 管判,Grok Bot 管干。

技术 › Agent 蓝哥AI 2026-09-204.4 KB 84.6K 84 74

Build your own Jev (100% local):用开源 LLM 构建本地决策引擎

文章介绍如何将开源 LLM 变成快速、本地的决策引擎,而无需重新训练。核心思想是:当应用已知所有可能的答案时,不必让模型生成文本或 JSON,而是通过 next-token scoring 一次性为每个候选答案返回分数和概率分布。作者讲解了固定答案打分与结构化输出的区别、LLM 第一个输出 token 的生成原理,并使用 SGLang 的 /v1/score 接口,结合 Qwen 和 DeepSeek 模型进行实测,与普通文本生成进行了基准对比。文中还提到概率的含义与校准问题。

技术 › LLM Avi Chawla 2026-09-2022.3 KB 1.1M 3.1K 76

Jev、System One 模型与计算机使用的未来

文章探讨 Cua 团队基于 TypeSafe 发布的 System One 模型 Jev 的实验。Jev 不做开放式文本生成,而是提供决策接口:输入上下文和候选选项,返回类型化决策(Choice、Score、Noul 三种原语)。作者分析在 computer-use agent 中,表单填写等局部决策并不都需要通用 LLM 完成,可将应用观察状态、构建候选动作,由模型评分选择,再由应用验证执行的循环架构。文中还讨论了纯文本决策模型如何借助 OmniParser 等感知模块将截图转为结构化元素,以及 Kahneman 快慢思维类比在模型分类中的局限。

技术 › Agent Cua 2026-09-2014.4 KB 74.5K 569 76

BestBlogs 早报 · 09-20|小红书Muse 多智能体架构,OpenAI 分享LLM 推理路由,LinkedIn 上下文工程实践

本期早报围绕 AI 工程化落地的三大层面展开:小红书 Muse 的 Agentic 架构解决研发任务连续性问题,通过统一上下文与 Harness 机制衔接需求、设计、编码与交付全链路;OpenAI 分享生产环境 LLM 推理路由设计,从引擎信号到策略层面优化容量、网络与缓存的多维权衡;LinkedIn 通过 MCP 构建组织级上下文层,用渐进披露的 playbook 让 Agent 按需发现和维护操作经验。速览部分还涵盖内存墙问题、扩散模型推理、AI 数学能力、医疗影像模型、Claude Code 多智能体架构等前沿内容。

技术 › Agent ginobefun 2026-09-2023.3 KB 3.4K 4 77

2026 Mac 跑大模型配置指南|16GB 到 512GB 怎么选

文章针对 Apple 新发布的 M6 Mac mini 与 M5 Mac Studio 系列,系统讲解如何为本地运行大模型选择合适配置。作者提出三笔账:内存容量决定模型能否装下、内存带宽决定生成速度、算力决定提示词处理和训练能力。给出 4 位量化模型内存估算公式和生成速度理论公式,并提供四档选购建议:24-32GB 跑 8B-14B、64GB 跑 32B、128GB 跑 70B、256-512GB 跑 200B 以上或 671B MoE。最后指出数据保密、高频调用、离线需求才是为本地模型购买大内存 Mac 的真正理由。

技术 › LLM 苏乐 2026-09-2019.6 KB 317.2K 453 86

全网刷屏的 Jev 到底怎么用?8 个能直接抄的案例

本文介绍了 AI 圈新火的模型 Jev——一个不做文本生成、只返回带概率判断的决策模型。文章讲清了它的三种用法(是非判断、选项选择、打分),提供了四种 30 分钟内可上手的接入方式(官方 Skill、Vercel、OpenRouter、SDK),并整理了 8 个可直接复用的真实案例:7 秒订机票、代码审查、工单分流、简历初筛、语义搜索、AI Agent 路由、RAG 重排、动态 UI 拼装等。还总结了 5 个反直觉要点(不写字、零幻觉指格式而非正确性、不会拒绝等)、官方自曝的雷区(不会算术、不懂日期先后、易被提示词注入),以及不适合使用的场景。

技术 › LLM Leaf Yeah! 2026-09-2016.8 KB 131.8K 279 86

AI写自媒体文章不被引用和搜索不到的原因分析与解决方法

文章分析了2026年9月公众号、头条号、小红书加强对AI内容审核后,AI辅助写作文章阅读量下降、不被AI搜索引用的原因。作者基于1200多篇自媒体文章的数据统计指出,平台限制的并非AI本身,而是批量生产的低质内容。表现好的文章AI辅助比例通常控制在25%以内,同质化指数低于30%。作者提出三层人工覆写方法(信息覆盖、加入观点、语气校准),并建议发布前进行五维度检测:AI率、同质化、敏感词、标题合规与冷启动流量预测。核心结论是:AI只能提效,无法替代独立思考,每篇文章应补充100-300字第一手内容。

技术 › LLM 熊叔的茅草屋 2026-09-194.3 KB 1.9K 2 73

Jev 模型从 0 到 1 小白教程

本文介绍了 TypeSafe AI 公司发布的新模型 Jev。Jev 由前 OpenAI 研究员、RLHF 共同发明者 Diogo Almeida 打造,它不会聊天,只做结构化判断,像流水线上的质检员。Jev 通过'填表'方式解决大模型自由文本输出带来的不可控问题,支持单选、评级、判断三种题型,且自带 confidence 置信度,可按把握度决定自动处理、人工确认或转人工。它比同级大模型快约 200 倍、便宜约 400 倍,适合客服分流、内容审核、简历筛选、AI 输出质检和数据清洗等自动化场景。文章还讲解了如何把大问题拆解为具体小问题来使用 Jev。

技术 › LLM 黄小木 2026-09-1913.4 KB 977.9K 1.2K 85

拿到 Jev,然后呢?剔掉虚火之后的一份真实落地清单

TypeSafe AI 于 2026 年 9 月发布的 Jev 是一个只做选择题的 AI 模型(单选、打分、是/否),响应 0.07–0.5 秒、输入价格极低、输出免费。作者梳理了官方数据及 Hacker News 上的质疑,指出“Jev 取代大模型”是伪命题,其合理定位是高频、低价地执行小判断。文章按用途分类整理了已真实跑通的案例:为 AI Agent 当决策器、海量数据分类、高低置信度分流混合架构、实时反应界面和仿真实验,并列举了已接入的商业产品。作者还分享了自己四次失败的集成尝试与两轮实测结论,强调概率校准的重要性。

技术 › LLM huangserva 2026-09-1922.2 KB 552.7K 840 85

Behind Jev: Two Hypotheses About Its Base Model

文章探讨 TypeSafe 公司 Jev 决策 API 背后可能的基础模型架构,提出两种假设:一是 BERT 风格的双向编码器,二是去掉生成循环、直接输出决策概率的因果解码器。作者引用 Archer Hume 基于约一万次 API 调用的逆向分析,认为其可能是带共享状态计算、独立问题分支和直接概率读出的因果 Transformer,甚至可能是 MoE 架构,但其研究无法区分编码器与解码器。文章还通过 OpenJev 等开源项目(基于冻结的 Qwen3.5-4B 权重)证明使用因果模型骨干做直接决策打分在技术上可行,并讨论了因果注意力、前缀缓存等工程优势。作者强调这些都是架构假设,不能确定 Jev 的真实权重来源。

技术 › LLM Roy Chen 2026-09-1911.5 KB 45.6K 123 74

Jev 在金融投资场景中的能力及应用实践

作者围绕新模型 Jev 在金融投资领域的应用做了几千次真实 API 调用测试,估算模型费用约 0.05 美元。文章梳理了推特上多个热门应用案例:交易机器人、价格预测、SEC 公告筛选、期货短线交易、代币风险筛查等,并分析了各自优劣。作者认为 Jev 不适合生成完整研报,更适合作为核验检查步骤:区分预计收入与已实现收入、识别数据口径错误、去重消息、发现交易动作与用户意图冲突等。文章还介绍了 Jev 与主模型配合的流程设计、缓存与成本考量,给出了基于 TypeSafe Playground 的上手实验建议。作者用 104 条合成样本测试,99 条符合预设,提醒速度可试研究辅助但不能承诺交易执行,最后透露正在开发期权策略选择器。

技术 › LLM Z ZW 2026-09-1910.5 KB 81

OpenAI 是否更 Open?浅析 Codex Model Catalog 配置

本文以 Kimi K3 接入 Codex 为例,深入解析 Codex Model Catalog 机制。随着主流国产模型支持原生 Responses API,接入 Codex 不再需要格式转换,但模型能力差异使配置复杂化。文章介绍 Model Catalog 作为'模型使用说明书'的作用:通过本地 JSON 声明模型上下文窗口、输入模态、思考档位、工具形式等能力信息,与 config.toml 的连接配置分工协作。作者以 Kimi Code 为例给出完整配置示例,详解各字段含义与常见误区,并说明 CC Switch 工具如何通过预设和表单简化第三方模型的配置流程。

技术 › Codex Jason Young 2026-09-1923.1 KB 47.3K 72 86

一文解密 Jev:一个不聊天的模型,为什么突然火了?

TypeSafe AI 于2026年9月发布的 Jev 是一个不做对话和内容生成的专用判断模型,主打低成本、高速度地解决软件中的小型理解判断任务,如工单分类、优先级评分和概率判断,提供 Choice、Score、Noul 三种能力。其极低价格(每百万输入token 0.042美元)和 Vercel、Netlify 的快速接入引发开发者关注。文章分析了其'零幻觉'宣传的真实含义、评测数字的适用边界,并指出 Jev 的价值在于与生成式模型、程序和人分工协作,让软件能以低成本读懂小问题。

技术 › LLM Ray Wang 2026-09-1913.2 KB 19.4K 96 78

Jev Engineering: 从零搭建 AI 系统 1 决策模型的 10 步完整路线图

本文介绍 TypeSafe AI 推出的 System One 决策模型 Jev,其理念源自杰文斯悖论——通过分离 Agent 中的小型判断决策,降低成本并提升效率。文章以 10 步路线图讲解如何从零搭建和使用 Jev:识别 Agent 中可交由 Jev 接管的决策点、在 Playground 中测试单一决策、配置 API 与 Python SDK、编写 chief.py 脚本将请求转化为带置信度的任务分发文件(handoff),并存入本地任务队列供后续 Worker 消费。文中还展示了 Browser Use 结合 Jev 后 7 秒、$0.0039 完成机票搜索的案例。

技术 › Agent codila 2026-09-1922.9 KB 2.2M 3.5K 75

Goosebumps: 机器人学正在发生范式转变

UC Berkeley教授Ken Goldberg提出Agentic Robotics(AR)新范式:将机器人策略生成视为编程问题,用多智能体AI系统离线编写、测试、诊断和迭代改进结构化机器人程序。团队开发了图策略框架GaP,将控制表示为模块化组件图,多个编码智能体在仿真中递归优化。借助Newton物理仿真器和Robot Sim Studio工具,GPT-6 Astra展现了从真实场景视频推断物理参数的'逆物理'能力,生成了能直接在真实机器人上运行的代码。AR结合了模型方法的速度可靠性与前沿AI的适应性,Real2Sim正从人工工程任务转变为智能体学习过程,机器人学迎来范式转变。

技术 › Agent Ken Goldberg 2026-09-1915.4 KB 1.1M 802 79

MiniMax Code CLI 正式开源

MiniMax 宣布 Code CLI v0.4.12 以 MIT 许可证向全球开发者开源。在第三方 FrontierHarness Eval 评测中,MiniMax Code 取得了最高的通过率、最快的平均任务完成时间以及次低的 token 消耗。官方认为精心设计的 harness 能充分释放模型能力并减少开发者等待时间。开源后,开发者可以审查工具调用与权限处理机制,构建可靠的企业级应用。MiniMax 同时邀请社区参与问题反馈与修复,通过真实使用和社区审查持续强化安全防护,共同打造安全、可靠、高性能的 harness,实现 Intelligence with Everyone。

技术 › Harness Engineering M MiniMax_Agent 2026-09-193.5 KB 300.2K 523 64

MoE 推理工程详解

本文系统讲解 MoE(混合专家)模型的推理服务工程原理。从稠密 Transformer 的 FFN 与 MoE 层的区别入手,介绍路由器如何为每个 token 选择专家、dispatch 和 combine 过程如何将路由决策聚合成专家专属矩阵,以及 grouped GEMM 如何减少内核启动开销。文章还涵盖专家并行、拓扑感知部署、显存需求(常驻参数 vs 激活参数)、负载不均衡、容量限制和量化等话题,并分析计算、显存带宽与互连流量之间的性能瓶颈权衡,以 Qwen3-30B-A3B 为实例说明。

技术 › LLM Avi Chawla 2026-09-1929.1 KB 148.8K 316 73

如何做一个 Trading Agent

文章指出构建 Trading Agent 的核心难点不是下单或找到策略,而是以快于策略衰减的速度生产新假设并用严苛手段证伪假策略。作者拆解了发现、证伪、执行、止损四个环节,介绍统计套利、波动率曲面错价、因子残差、内部人交易信号四类错价目标及其数学模型,并提出扫描层、推理层、编排层、执行层的四层架构:大模型只负责扫描与推理,执行必须用确定性代码。文章还详细阐述了多重检验校正、交易摩擦成本、point-in-time 数据、样本外隔离、硬编码风控与四分之一 Kelly 仓位等工程纪律。

投资 › 量化交易 Shen Huang 2026-09-1925.5 KB 69.4K 256 87

How To Fine-Tune a Small LLM on Your Own Data (Full Guide)

这是一篇关于微调小型LLM的完整实战指南。作者指出不需要70B大模型或昂贵算力,1.5B参数模型在200-500个优质样本上微调后,可在特定任务上超越通用提示的前沿模型。文章以商业融资文案生成为例,详细讲解了微调的实际目标、建立基线(纯提示、RAG、微调)的先后顺序,并分步骤介绍了小型基座模型选择(如Qwen2.5-1.5B)、数据权利合规、可复现数据下载、PDF文本提取与OCR、文本清洗、训练数据集构建、QLoRA训练、评估与部署,每一步均附完整代码。

技术 › LLM Rahul 2026-09-1926.1 KB 2.5M 2.7K 86

Jev Clearly Explained

文章介绍了 TypeSafe 于 2026 年 9 月发布的 Jev 模型——一个专注于快速、低成本语义决策的"系统一"模型。传统 LLM 在智能体循环中处理大量小型判断(如工单分类、命令风险评估)时逐 token 生成,速度慢且成本高。Jev 通过三种原语(Choice、Score、Noul)接受非结构化输入,返回带概率的类型化答案,端到端延迟 70-500 毫秒,输入价格仅为 LLM 的一小部分。文章分析了概率置信度在自动决策中的作用、RLCD 校准训练方法,并澄清"无法幻觉"的说法:Jev 不会打破输出 schema,但仍可能自信地选错选项,适合与 LLM 配合而非替代。

技术 › LLM Akshay 2026-09-1916.0 KB 2.4M 5.6K 79