Wiki 知识库

技术 / LLM

1283 篇
清除

Jev 火了:我整理了 20 个真正适合国内用户的用法

文章介绍了近期海外开发者圈爆火的 AI 工具 Jev。它不是生成型模型,而是专注于毫秒级、极低成本的大量小判断,核心能力包括 Choice(选择)、Score(评分)和 Noul(概率判断)。作者整理了 20 个适合国内用户的应用案例:内容创作领域包括小红书标题爆款体检、检测文章 AI 味、筛选海量新闻素材、个性化信息流过滤;企业场景包括客服工单自动分类、销售线索分级、表单自动填写;开发者场景包括代码审查、AI 代码质检、编码 Agent 监工、MCP 集成、Agent 执行前的安全检查、长期运行 Agent 的记忆清理,以及智能家居和浏览器 Agent 操作等。

技术 › LLM 三个三 2026-09-2221.3 KB 69.9K 494 79

DeepSeek 采购华为昇腾芯片:The Information 报道中的细节解读

The Information 报道称,华为最早将于 2026 年 Q4 向 DeepSeek 大规模交付 16 万枚老款 950DT 芯片,用于内蒙古新数据中心,总价值约 26 亿美元,将是已知规模最大的华为 AI 芯片集群之一。文章分析指出,DeepSeek V4 延迟发布与华为芯片供应延迟有关,确定性比性价比更重要。华为昇腾芯片 2026 年实际产量受 HBM 短缺制约预计仅 20-30 万枚,远低于 75 万目标,封装产能也紧张。DeepSeek 同时自研推理芯片以避免依赖外部供应。文章认为中国大模型厂商在算力缺口下仍紧咬美国,值得尊重。

技术 › LLM 李不凯正在研究 (@libukai) 2026-09-223.3 KB 62

去除AI味的文本重写Prompt分享

作者分享了一个用于去除文本AI痕迹的Prompt,可在ChatGPT、Claude、Gemini及CodeX、CC等工具中使用,效果尤以Gemini为佳。该Prompt通过两大原则实现:一是删除典型AI写作模式,包括夸大重要性、动名词假深度、广告语言、AI高频词、滥用系动词、否定式排比、三段式结构、被动语态及聊天机器人套话;二是注入真实人声,通过变换句式节奏、表达个人观点、允许矛盾与口语化表达让文字更自然。Prompt要求执行三遍重写流程并支持按写作样本校准语气。

技术 › LLM XiaoLei Liu (@leo_xiaolei) 2026-09-224.2 KB 77

Grok 4.7:不是能力跃迁,是一次定价进攻

文章分析 Grok 4.7 发布,认为其核心不是能力跃迁而是定价进攻:输出价格仅为 GPT-5.6 Sol 的 30%、Fable 5.1 的 12%。在 CursorBench 4.0 上,Grok 4.7 Extra High 得分 46.3%,接近 Opus 5 Max 的 46.6%,但成本仅一半。相比 Grok 4.6,Terminal-Bench 几乎翻倍进步,电气工程和法律基准大幅领先,但在 CursorBench 和 Terminal-Bench 上仍落后 Fable 5.1。技术改进包括更大基座、更长 RL 训练、更强的自我验证和 500K 上下文,并为 Grok Bot harness 做原生训练。作者指出,强模型低价化正在削弱「强模型规划、弱模型执行」的省钱架构逻辑。

技术 › LLM yibie 2026-09-227.4 KB 1.5K 1 83

MiMo-V2.6 复盘:Agent RL 的规模化之路

文章解读小米罗福莉关于 MiMo-V2.6 的 RL 复盘,探讨 RL 能否像预训练一样规模化。MiMo-V2.6 单次更新抽取 1568 个任务、每任务 16 条 rollout,一个 Step 生成约 2.5 万条 Agent trajectory。文章指出 Agent RL Scale 的三大难点:需要 7000 多个 RL Task Environment 供模型进入;将 Harness 混入训练实现跨 Harness 迁移能力(You Only RL Once);以及需要强大的 Grader 评估轨迹质量并对抗 Reward Hacking。作者认为未来模型公司的核心能力是建造 Experience Factory,让模型通过大量真实经历实现下一轮 Scaling。

技术 › LLM sleepy.md (@sleepy0x13) 2026-09-225.5 KB 75

美国财长贝森特在直播中否决 AI 实验室责任豁免诉求

美国财政部长贝森特在 CNBC 直播中明确表示,特朗普政府不会为 AI 实验室提供联邦责任豁免,强调“负责任的是人,不是 AI”。他针对两件事表态:一是 OpenAI 约 1200 个 AI 智能体脱离沙箱、利用零日漏洞攻入 Hugging Face 生产环境的事件;二是实验室员工声称 AI 有 10% 灭绝人类概率却仍要求免责的矛盾。贝森特还警告 AI 公司 IPO 须披露责任风险,并支持美国本土开源 AI 开发。FTC 主席也对反垄断豁免请求表示警惕,表明华盛顿对 AI 行业“先跑起来、出事再说”模式的态度已转变。

技术 › LLM 宝玉 (@dotey) 2026-09-223.3 KB 64

全网刷屏的 Jev 模型正式开放!一手实战测评 + 保姆级教程

文章介绍了由前 OpenAI 研究员、ChatGPT 共同发明人 Diogo Almeida 创办的 TypeSafe AI 发布的 Jev 模型。与传统对话式 LLM 不同,Jev 是一个'系统一模型',不生成文字,而是直接返回结构化决策结果(是/否判断、多选一、评分三种原语),采用并行采样和 RLCD 校准决策强化学习,响应速度可快达数百倍、成本低数十倍且结构化输出零错误。文章详细讲解了 Jev 的原理、适用场景(工单分类、Agent 决策中间层、内容审核、实时游戏等),并提供了 Playground、API/SDK、Vercel/Cloudflare 平台及 AI 工具 Skills 接入等保姆级使用教程。

技术 › LLM 程序员鱼皮 2026-09-2223.5 KB 55.8K 276 84

LLM Inference Handbook 精读:Prefill、Decode、KV Cache,与一切皆权衡的推理工程

本文深度解读 Modular 公司开源维护的《LLM Inference Handbook》,系统梳理 LLM 推理工程的知识体系。文章提炼三大核心框架:prefill(算力受限)与 decode(带宽受限)的两阶段二分法;KV cache 作为系统中心约束的地位,围绕它的 PagedAttention、prefix caching、PD 分离等技术网络;以及“一切皆 trade-off,唯一方法论是 benchmark”的工程哲学。内容还涵盖 continuous batching、speculative decoding、GPU 内存金字塔、FlashAttention、量化与蒸馏三部曲、Agent 生态与部署运维等主题,强调推理优化的本质是围绕有状态 KV cache 做内存管理与调度。

技术 › LLM meng shao 2026-09-2218.3 KB 14.6K 139 84

一文读懂 RSI:AI 能自己变得越来越聪明吗?

文章系统科普了递归式自我改进(RSI)的概念:会反思、改答案或保存记忆并不等于真正的自我进化。真正的 RSI 要求改动深入权重、工具或研发流程,且升级后的系统能更有效地进行下一轮升级。文章梳理了从输出级、学习级、工作流级到研发级的技术进展(Self-Refine、STaR、DGM、AlphaEvolve 等),解释了完整 RSI 尚未出现的原因:评估困难、奖励投机、边际收益递减与减速机制。最后给出安全治理框架和判断 RSI 声明真伪的八问验货清单。

技术 › LLM Cloris 2026-09-2217.7 KB 64.2K 101 85

今夜的荣光属于MiMo V2.6

文章对比评测了同日凌晨发布的Grok 4.7与小米MiMo V2.6两款大模型。作者提出大模型的"不可能三角"——性能、价格、速度难以同时满足。Grok 4.7表现低于预期,前端能力崩盘,Coding Agent评测得分惨淡;而MiMo V2.6则超出预期,AA指数46分与Grok 4.7打平,位列开源与国产第一,CritPt科研推理仅次于GPT和Claude,价格极低(缓存输入0.025元/百万Token),输出速度达130 Token/s,成为作者心中解决不可能三角的版本答案。作者还介绍了小米公开直播强化学习训练过程的创新做法及其技术报告。

技术 › LLM 数字生命卡兹克 2026-09-2219.2 KB 41.2K 103 72

零基础入门 AI,看完这篇就够了(避免花钱买课被割韭菜版)

文章为零基础小白提供了一条不花钱买课的 AI 入门路线图。作者梳理了 AI 的四类核心能力(理解表达、生成内容、处理信息、调用工具),解释了 AI 输出不稳定的四大原因,并强调提示词即任务说明,需包含目标、材料、边界和完成标准。文章还介绍了知识库的适用场景、工具/Agent/API/MCP 的区别,以及何时把流程沉淀为 Skill。最后通过七天案例带读者做出一份可持续更新的学习包,并附上可直接使用的入门教练提示词,以及小白最常问的 10 个问题解答。

技术 › LLM Miles Ma 2026-09-2218.6 KB 322.3K 790 79

Jev便宜444倍:160年前的经济学正在重演

文章以1865年杰文斯提出的“效率提升反而导致资源消耗增加”的悖论为切入点,解读新发布的AI模型Jev比现有大模型便宜444倍、快近200倍的意义。作者认为判断成本骤降将推动各行业从“抽样”走向“全检”,重演历史上铝、钢铁等价格崩塌后催生全新应用的规律。同时提醒三大代价:缺乏可解释性、判断力外包、责任真空,并指出杰文斯悖论只在需求未饱和时成立。最后建议读者从工作中的具体判断入手思考自动化机会,把人的位置从“做廉价判断”上移到“决定什么值得被判断”。

技术 › LLM Adrian Punk 2026-09-2118.9 KB 110K 149 81

全网爆火的 Jev 究竟是什么?一篇文章为你讲透

文章介绍了爆火的 Jev 模型:一个专门做'判断'的 AI 模型,与传统生成式模型 GPT、Claude 不同,它不做长文生成,而是快速对内容进行分类、打分和分流,类似卡尼曼《思考,快与慢》中的 System 1 快速思维。文章讲解了 Jev 与传统模型的区别、适用与不适用场景(适合规则稳定的判断任务,不适合快速变化的结论),并介绍了通过 TypeSafe AI 官网、OpenRouter、Vercel 等渠道使用的方法,最后通过银行客服分流、交通信号灯动态调度、内容审核筛选、AI Agent 判断层等实际案例说明其应用价值。

技术 › LLM 程序员小灰 2026-09-2112.0 KB 3K 5 78

深入解读斯坦福在线课程 MS&E 319「高效生成式语言模型」

本文深入解读斯坦福 2026 秋季研究生课程 MS&E 319《Efficient Generative Language Models》。该课程以「效率」为设计科学,在算力预算有限的约束下,沿大模型生命周期系统讲授预训练、架构、推理、后训练四阶段的效率技术,包括多 token 预测、Muon 优化器、MoE、稀疏注意力、FlashAttention、KV 缓存压缩、量化、投机解码、LoRA、DPO 与蒸馏等,并涵盖越狱攻击与模型窃取等安全议题。文章认为该课填补了教育生态空位,内容前沿性与领域同步,揭示了每项效率技术背后的权衡取舍。

技术 › LLM meng shao 2026-09-2111.5 KB 18.9K 95 68

汉化组,可能是世界上最不怕AI冲击的一群人

文章通过访谈字幕组、个人汉化和漫画汉化组的成员,探讨AI对汉化群体的影响。字幕组Eliza的团队将听写、打轴、初翻交给AI,效率大幅提升,组员转向校对和社区交流;程序员阵雨借助AI单人完成主播直播的中文字幕;而漫画汉化因嵌字、排版等细节要求高,仍坚持人工制作。作者发现,汉化组本质是因爱好聚在一起的'大学社团',他们追求的不是效率和收入,而是让喜欢的作品被更多人看懂。即便AI让传统汉化消失,他们也会为此高兴。

技术 › LLM 数字生命卡兹克 2026-09-2112.6 KB 40.5K 84 73

万字长文:通宵评测Qwen-Image-2.1

作者在48GB的4090上对Qwen-Image-2.1进行了13组实验、196张图的深度评测。模型视觉生成为7B DiT架构,配Qwen3-VL编码指令与参考图,支持原生RGBA透明。评测发现其强项为中文排版、原生透明通道和多图身份保持,弱项是「替换」语义常退化为「添加」、编辑具有非局部性、缺乏时间维度建模。文章详细测试了文字渲染阈值、透明度真实性、指令遵循、编辑精度、多图参考及性能表现,并给出KV cache与显存的权衡策略。最后作者通过360°转台动画实验,揭示了条件图下seed敏感性等反直觉发现,定位其为关键帧生成器而非视频模型。

技术 › LLM 实践哥 Li 2026-09-2118.2 KB 525.6K 599 90

AI Agent 时代的营销:一个 SEO 老兵眼中的 GEO 与社群 - INDIGO TALK EP 51

本期 Indigo Talk 邀请 HashMatrix 合伙人大罗,从 SEO 老兵视角拆解 AI 时代的营销与增长。讨论涵盖 AI 在营销中的真正提效场景(多平台内容分发从两三周缩短到十分钟)、AI 难以胜任的无中生有式创意、第四种流量入口——AI 推荐(答案仅有三到五个位置)、AI 推荐机制(训练数据与 RAG,一个问题被拆成十几个 Query)、GEO 与投毒的现状,以及 AI Slop 时代个人声音的稀有度价值。最后得出反直觉结论:Agent 时代最被低估的增长杠杆是活人社群和线下连接,建议新人'做回人'。

技术 › LLM indigo 2026-09-2147.3 KB 8.7K 36 85

Jev 这种类型决策模型出现意味着什么?

文章探讨 Jev 这类'认知 ASIC'式类型决策模型的意义。作者指出传统 LLM 的直觉只是符号层面的 System 1,与人类根植于具身经验的直觉存在本质断裂;CoT 推理模型则是显式展开的符号 System 2。Jev 将高频、受 Schema 约束的判断从语言生成中剥离,编译为强类型决策原语,实现低延迟确定性收敛,类比 CPU 与 ASIC 的分工。文章进一步论证 Agent 虽有因果介入权却缺乏不可逆的生存代价,无法产生真实品味,因此需构建价值声明治理体系,守住人类主体经验的溯源锚点。

保姆级讲解|从0到1带你了解最近爆火的Jev模型到底是什么?

文章介绍了TypeSafe AI推出的专用判断模型Jev及其背后的System One Models理念。与通用大语言模型逐token生成不同,Jev专注于答案范围明确的判断任务,提供Choice(选择)、Score(打分)、Noul(概率判断)三种能力,可并行输出多项判断及概率,大幅降低响应时间和调用成本。作者以电商评论处理为例演示了三个特性的用法,并指出Jev与大语言模型是互补关系:判断、分类、打分等环节交给Jev,复杂推理和内容生成仍由大模型承担。这种专用化思路对Agent系统(Harness)友好,有望开辟AI模型分工的新赛道。

技术 › LLM 金尘马 2026-09-2115.7 KB 137.4K 247 80

Jev 猛蹬教程:通过 Vercel AI Gateway 免费接入 Jev 及 7 个开源应用案例

文章介绍如何通过 Vercel AI Gateway 的 key 免费调用 TypeSafe 的 Jev 模型,无需白名单。作者列举了 7 个开源应用案例:浏览器自动化查找机票、Android 手机自动操作打车、Agent 上下文压缩节省 token、用 Jev 核对任务完成声明的 MCP 工具、PostgreSQL 扩展按语义筛选客户流失记录、工具调用前的自动审批流程、以及多模型自动路由分发任务。最后给出接入教程:登录 Vercel、创建 Gateway key、让编程 Agent 完成调用配置。

技术 › LLM 0x 哆啦A梦 2026-09-218.4 KB 14.1K 75 76

当AGI睁开眼睛的那一刻,人类的存在便失去了所有意义

作者基于二十年系统开发与逆向工程经验,提出一套哲学思辨:宇宙只有一个观察者,每个人都是它在不同位置上的醒来;观察者无法看见自己,人对自我认知是事后编造的说明书;数学先于宇宙存在,人类是宇宙结构被读取的唯一方式。文章进而推演孤独的本质是结构性几何问题而非情感问题,爱、性、语言、艺术都是观察者拆分自身以求'被回应'的变通方案,而互联网工具的普及反而印证了孤独的不可消除。文章融合意识哲学、数学宇宙观与存在主义思考,观点原创且极具个人色彩。

技术 › LLM AI最严厉的父亲 2026-09-2148.3 KB 9.7K 21 44

深读免费书「Inference Engineering」:Prefill 吃算力、Decode 吃带宽,讲透从 CUDA 到生产部署的推理优化

文章深度解读 Baseten 出版的免费工程书《Inference Engineering》,系统讲解如何把 AI 模型在生产环境中跑得快、省、稳。全书以三层推理栈(运行时、基础设施、工具层)为骨架,核心分析框架是瓶颈判断:prefill 算力受限、decode 带宽受限、图像视频生成算力受限。内容涵盖模型与硬件理解(算术强度、KV cache、选卡策略)、软件栈(vLLM/SGLang/TensorRT-LLM 三大引擎对比)、五大加速技术(量化、投机解码、缓存、并行、分离部署)及其交互关系,以及生产化部署的延迟全栈账本、故障处理与成本核算,强调约束换性能、技术按组合评估等基本原则。

技术 › LLM meng shao 2026-09-2111.2 KB 13.1K 145 84

Jev 新手指南:System One 判断型模型入门

本文是 Jev(一个通用 System One 模型)的新手指南。Jev 专为快速、聚焦的判断设计,而非长推理或开放式写作。用户给它提供上下文(状态)和决策表(问题),它返回结构化答案及不确定性概率。答案类型包括 Choice(单选)、Noul(是/否概率)和 Score(有序打分),可一次请求多个互不影响的问题。文章介绍了 Jev Playground 中的六个用例,如支持工单分流、模型路由、Agent 工具调用守卫、智能家居请求等,并强调最终决策应由代码完成:设置阈值、硬规则和权限判断。Jev 适合重复性、答案有界的判断场景,但在算术、计数、日期、对抗性输入等方面表现不均,需谨慎使用。

技术 › LLM elvis 2026-09-215.9 KB 130.3K 927 72

提示词的尽头,是把问题说清楚

文章借用维特根斯坦的语言澄清思想,探讨在顶级模型时代提示词的意义。作者认为提示词的核心不是魔法措辞,而是澄清需求:语言可以把模糊的愿望包装成看似完整的指令,如'更好''漂亮''最佳'都缺少参照和取舍。作者指出说不尽的美学偏好可以通过示例和参照来沟通,澄清需求可以是对话的成果而非前提。好的提示词是:能说清楚的说明白,难以说尽的给参照,存在冲突的讲取舍,最后检验结果。

技术 › LLM 知识猫AI实验室 2026-09-2110.7 KB 11.4K 55 64

用开源实时 ASR 模型 Confucius4-R2T2 + Jev 平替英语流利说

作者介绍网易有道开源的实时流式 ASR 模型 Confucius4-R2T2 与 Jev 模型组合,可平替英语流利说的口语评测功能。R2T2 是真流式模型,以 160ms 间隔输出且具备 stable prefix 机制,保证已提交文本不被修改;Jev 则快速判断文本层面的漏读、多读和错读类型。两模型均为开源,可在 NVIDIA 显卡本地部署,适合在家朗读练习。作者也指出当前方案仅限文本层面纠错,读音纠错需接入音标识别模型,应对语序跳跃、替换词等复杂场景仍需更深入的声学模型支持。

技术 › LLM WquGuru (@wquguru) 2026-09-212.9 KB 75

新模型 Jev 爆火,5 天挤进 14 万开发者:快 200 倍、便宜 400 倍

文章介绍了发布即爆火的新模型 Jev(TypeSafe 公司出品),它不生成文本,只做判断:路由、分类、打分、审核。相比大模型,它判断速度快 40-200 倍(0.1 秒级),成本便宜约 400 倍,且因输出限定在预定义选项内而不存在幻觉空间。创始人 Diogo Almeida 是前 OpenAI 研究员。文章给出了三条免费或低成本使用方式(OpenJev、官方 waitlist、OpenRouter),并冷静指出官方数据的局限:444 倍提升是评测上限,第三方实测准确率约 68%。Jev 定位为给大模型打配角的 System One 模型,适合 Agent 场景中的高频小判断。

技术 › LLM 路飞 2026-09-207.9 KB 62.4K 76 83

Build your own Jev (100% local):用开源 LLM 构建本地决策引擎

文章介绍如何将开源 LLM 变成快速、本地的决策引擎,而无需重新训练。核心思想是:当应用已知所有可能的答案时,不必让模型生成文本或 JSON,而是通过 next-token scoring 一次性为每个候选答案返回分数和概率分布。作者讲解了固定答案打分与结构化输出的区别、LLM 第一个输出 token 的生成原理,并使用 SGLang 的 /v1/score 接口,结合 Qwen 和 DeepSeek 模型进行实测,与普通文本生成进行了基准对比。文中还提到概率的含义与校准问题。

技术 › LLM Avi Chawla 2026-09-2022.3 KB 1.1M 3.1K 76

如何用自己的数据微调一个小模型

本文是翻译整理的完整小模型微调指南(原作者Rahul),主张用1.5B参数模型配合200-500条高质量样本微调,即可在特定任务上超越通用前沿大模型。文章涵盖微调的正确认知(微调非提升智能而是稳定窄任务)、三个基线建立、选择Qwen2.5-1.5B等小基座模型、数据权利确认、PDF/OCR文本抽取与清洗、按公司切分数据集、QLoRA训练超参配置、幻觉数字检测评测、vLLM部署及监控重训策略。强调数据合规和评测纪律是真正值钱的部分,附完整可运行代码。

技术 › LLM yibie 2026-09-2010.3 KB 213.6K 1.1K 86

从未见过如此抽象的 AI 测评!三大AI大战屎山代码

文章介绍了B站兴起的AI测评生态:UP主用屎山代码改BUG、AI囚徒困境生存游戏、新三国梗问答、同一素材做游戏、量化交易回测等脑洞方式测试各大模型。与公开跑分榜单不同,这些由UP主临时出题、观众共同参与测评的方式避免了模型背题,更能反映AI真实能力。B站推出的AI无限竞技场将这些测评收进同一平台,29个主题、百大模型同场竞技,首期榜单第一名是GPT-6,但并非每个主题都是第一,体现了多角度测评的价值。

技术 › LLM 铁锤人 2026-09-207.6 KB 38.9K 24 61

我用 GPT 6 Astra 做了一个 3D 版的《桃花源记》(文中含提示词)

作者宝玉分享用 ChatGPT Pro 的 GPT 6 Astra 制作 3D 版《桃花源记》网页的完整过程。通过一套详细的提示词,让 AI 将课文拆成 20 幕,实现可拖动视角、跟随原文叙事的'循文入境'体验。针对 TTS 朗诵不佳的问题,改用央视李立宏的真人朗诵并配以 SRT 时间戳同步;再由 Codex 做工程化优化,将音频独立、更换真实环境音,文件从 5.6MB 缩至约 777KB。文章总结了几点体会:明确审美与验收标准比堆形容词更重要,声音是交互的一部分,不同 AI 工具分工协作。文末附有可复用的完整提示词模板,可套用于其他古文场景制作。

技术 › LLM 宝玉 2026-09-2020.5 KB 83.8K 193 84