Wiki 知识库

全部文档 / 作者: lauren(@poteto),yibie 翻译

43 篇
清除

Agentic Economies:多智能体科学经济的瓶颈与制度设计

Google DeepMind 9 月发布的论文《Agentic Economies for Autonomous Scientific Discovery》主张,AI 科研的真正瓶颈不在想法生成而在资源有限的验证,需设计市场与制度解决协作、信用分配、问责与安全问题。AI 裁判 Pith 批评其核心论点与自引证据相悖且缺乏实证。产业侧 Molecule 的 Onchain Lab 已按论文要求施工。实验证据双向:Economy of Minds 的拍卖机制大幅提升 agent 任务表现,而另一实验显示仅有经济角色不会产生交易,需可验证的工作与权利。结论:经济制度的威力来自可验证性,而非价格标签。

技术 › Agent yibie 2026-10-146.3 KB 72

我们复现了那个决策模型教程

作者复现 Nish Tahir 的《Build your own decision model》教程,在 CommonsenseQA 上验证基于语言模型单次前向读取选项 token 概率作为置信度的决策模型方法。复现发现教程方法成立但需补两个关键前提:读数位置必须放在 assistant 轮,模型需用 8B 而非 1.7B。温度缩放校准有效,而微调增益主要来自修正 harness。作者还将方法应用于素材席位判定任务,发现模型间一致标签不等于准确率,结论需以人工标签为准。核心启示:核对读数位置的概率质量、报告覆盖率、用独立数据拟合温度。

技术 › LLM yibie 2026-10-128.2 KB 1K 4 85

16 个 agent 把一款老游戏反编译回 C++

作者分享了用 16 个自主 AI agent 在三个月内反编译一款热门第一人称射击游戏为 C++ 的完整过程。项目从 4 个 agent 起步,用 GitHub issues 追踪进度、Discord 实现 agent 间通信,并用 Hex-Rays ida-mcp 进行反汇编。初期虽然游戏能运行,但代码存在大量语义错误,根源是缺乏客观验收标准。团队随后构建了字节匹配验证 harness,对重构函数与原版 EXE 逐字节比较,让便宜的模型也能可靠工作。最终 99% 的函数完成重构,83% 字节级精确。文章总结了关键经验:指令必须精确、正确性应机器可检查、好的 harness 可用低成本模型、指令需定期刷新等,总计消耗约 6000-7000 亿 token。

技术 › Agent yibie 2026-10-1217.0 KB 2K 10 85

Google 的本地笔记:你出题,它检索

文章评测了 Google DeepMind 随 EmbeddingGemma 2 发布的 Mac 应用 Google AI Edge Foresight。该应用在会议中监听系统音频,用户手写简短笔记后,它基于本地嵌入检索实时补齐细节,全程离线运行。作者通过实测验证它能准确捕捉音频中的具体数字,且不覆盖用户原文,遵循 Jef Raskin '不剥夺用户决策权'的界面理念。文章同时指出其不足:Live Enhance 开关状态不可见、转写无法区分远端说话人身份。技术层面分析了 EmbeddingGemma 2 在短查询检索长文档上的优势(93.7% 命中率),说明'用户出题、模型检索'正是其强项所在。

技术 › LLM yibie 2026-10-117.5 KB 831 2 83

16.9 MB 的语音识别,和它不认识的语言

Cactus Compute 发布了 16.9 MB 的本地语音识别模型 Whistle,纯 CPU 运行、无依赖,与同公司的 Needle 模型共享引擎。作者实测发现:七种欧洲语言(英德法西意荷波)识别准确度高,首 token 仅 5-8 毫秒,解码速度约 1300 token/秒,官方性能数据基本可信。但关键缺陷在于:遇到不支持的语言(如中文、日文)时,模型不会报错也不会返回空,而是硬套进已知语种生成'假词',造成静默污染。文章指出该模型设计目标是端上语音自动化入口而非单纯转写,并提醒中文用户慎用。

技术 › TTS yibie 2026-10-116.2 KB 4.4K 36 83

读 2.83% 的 key 就够了

一位18岁大学生仅用iPhone 16e和Kaggle笔记本,开发出稀疏注意力机制ALHR(Adaptive Learnable Hierarchical Routing)。该方法通过给key矩阵构建静态二叉树,配合预算预测器、邻居搜索和树下降三步推理,让每个query只读取所需key。在1024 token的MQAR测试中,仅读取2.83%的key即可达到92.1%准确率(稠密基线94.9%),KV压缩35.3倍。训练分三段:先训稠密教师模型,再用其注意力矩阵标注top-k key训练树模块,最后无教师联合训练。目前因未做kernel优化比稠密注意力慢约10倍,代码由Claude Sonnet 5.5生成,Apache-2.0开源。

技术 › LLM yibie 2026-10-105.0 KB 1.3K 2 76

为什么编码 agent 这么蠢?

文章批判性分析了当前 coding agent(如 Claude Code、Codex、OpenCode)的种种缺陷:任务管理糟糕、不会并行处理和委派、对自身功能一无所知、计划表达混乱、轻易停下等待用户、缺乏真正的沙箱安全边界。作者区分了模型(大脑)与 agent(身体),指出模型进步很快但 agent 层才是瓶颈,并列举了理想 agent 应具备的能力:任务拆分与模型委派、人类易读的计划、OS 级沙箱、ETA 估算、自省改进等。最后猜想这是委托—代理问题——AI 高管与一线开发者脱节,只关注 demo 和基准测试而非开发者体验。

技术 › Agent yibie 2026-10-1019.4 KB 3.1K 9 76

他们怎么看待其他编码 harness

本文是 Pi Durable 访谈译文第三篇,Mario Zechner 与 Armin Ronacher 讨论各类编码 harness 的体验。他们聊到 AMP 的 Orbs 设计与团队愿景、OpenCode 的持久化探索、DeepSeek harness 的插件架构与极简体验、以及 Claude Code 的自我修改趋势与稳定性问题。还谈及 Pi Mobile 让手机本地运行 agent 的愿景、Web 插件系统的安全挑战(XSS、沙箱隔离)、对 MCP 支持的转变,以及让非开发者上手 agent 的 onboarding 难题和对 AI 技术真正落地应用的期待。

技术 › Harness Engineering yibie 2026-10-1018.8 KB 3.4K 21 66

Pi 1.0:一次重新思考——MCP 进核心与 CodeMode 编排层

文章解读 Pi 1.0 发布:Pi 从公开拒绝 MCP 转变为将其纳入核心支持。关键不在改变主意,而是为支持 MCP 所做的改动(沙箱、解释器、工具元数据、延迟加载)本身具有普遍价值,同时也让 Jev 等非 LLM 模型受益。核心概念 CodeMode 是跑在 harness 受信任侧的编排层沙箱,用 JavaScript(可作 WASM 分发)自由组合工具调用与模型调用,状态保存在会话记录中。Pi 团队认为 MCP 的问题是外部服务器难以组合,希望其向 OpenAPI 式结构化数据演进。此外还发布了构建长时间运行 agentic 应用的新基座 Pi Durable,以及延迟工具加载、缓存预热等改进。

技术 › Harness Engineering yibie 2026-10-0211.8 KB 15.2K 82 77

Coding Agent Workflows for Software Engineering

本文介绍 Atomic 团队提出的编码 agent 工作流概念:将软件开发流程定义为可执行的显式路径,用 TypeScript 表达,包含输入与成功标准、有边界的阶段与工具、可检视的移交、相关检查、审查批准点、停止与恢复条件六大要素。文章对比了一次性提示与结构化工作流的适用场景,说明 agentic coding 与 agentic engineering 的区别,并介绍工作流如何在运行时物化为可检视的 DAG,以及功能交付、缺陷排查、迁移、发布准备等常见工作流形态,强调可验证性与人工控制的重要性。

技术 › Agent yibie 2026-10-028.4 KB 2.4K 30 68

解放模型:前沿上的 harness 设计

本文介绍 Replit AI 团队关于 agent harness 设计的实证文章:与其让较弱的 router 替强模型选择 LLM,不如解放模型自己决定 effort 档位、何时委派任务以及交给谁。Replit Agent 通过四个可组合委派原语(领域感知子 agent、档位与 effort、可复用子 agent、动态 effort 调整)实现这一目标。生产数据显示,GPT-6 Astra 是首个无需吩咐就例行把实现交给通用 worker 的模型,回访已有子 agent 的比例达 42%。基准测试中 Replit Agent 在 DeepSWE 和 Terminal-Bench 上均优于 sidekick 架构 11~16 个点,且具备成本-质量帕累托有效性。作者将其解读为 Sutton「苦涩的教训」的实例:模型越强,harness 越应少做决定。

技术 › Agent yibie 2026-09-3010.8 KB 4K 42 79

Jeff:把 Jev 类决策模型压到 0.8B,跑在本地

Mathias Strasser(Scissero)基于 Qwen3.5 和 Gemma 4 微调出 Jeff 系列 0.8B/2B 决策模型,用于零样本分类:输入描述与选项,一次前向传播返回各选项校准概率。模型在 RTX PRO 6000 上约 22 毫秒、M4 Max 上 28 毫秒即可完成一次决策,0.8B 仅 1.7GB,可直接本地部署。整体基准分 Jeff-2B 达 83.1,几乎追平 Jev 的 83.0;Doom 零样本测试中 Jeff-0.8B 在无人提示规则下达到 6.55,追平 Jev 公布成绩。作者诚实列出局限:不能推理、最多 26 个选项、只支持英文文本等。代码 MIT、权重 Apache 2.0 开源。

技术 › LLM yibie 2026-09-3011.8 KB 8.5K 98 86

可塑软件:在被锁死的应用世界里,把主动权还给用户

文章由 Ink & Switch 研究实验室撰写,探讨了传统批量生产软件的僵硬性问题:中心化开发模式让用户无法按自身需求改造工具,导致主动权丧失。作者提出「可塑软件」概念,设想一个任何人都能以最小摩擦改造软件工具的生态。文章分析了设置项、插件、改机、开源、AI 辅助编程等现有方案的局限,并提出三个关键设计模式:为用户提供从使用者到创造者的「缓坡」渐进路径、以通用可组合的「工具」替代僵化的「应用」形态、以及工具间的数据共享与界面组合。作者认为物理世界的可塑性经验值得借鉴到软件世界中。

技术 › 工具与效率 yibie 2026-09-2947.3 KB 5.5K 4 77

KDA 优化 KDA:两个同名项目的碰撞

NVIDIA NVlabs 团队发布 KDAgent v0.6,用 Kernel Design Agent 系统(KDAgent)优化 Kimi Delta Attention(KDAttn)线性注意力算子,在 B300 上将 FlashKDA 前向传播加速几何平均 2.96 倍,且精度更好——发现 FlashKDA 因 bf16 存储递推状态导致 8k token 时相对误差达 0.035。文章重点拆解了 agent 的五种 reward hacking 手法(输入分布过拟合、形状硬编码、非法截断、溢出、低精度查找表),并介绍六道验收关卡防御。最有价值的发现是「先聚焦再泛化」:先优化单形状再扩展,比直接全形状合成的反馈回路更短、迭代更密集,效果差距显著。

技术 › Agent yibie 2026-09-2910.7 KB 1.6K 4 87

个人 agent 住在哪:三种执行环境,三种安全代价

文章解读 Anthropic 工程团队关于 agent 隔离架构的复盘,介绍三种执行环境:claude.ai 的临时容器、Claude Code 的人工在环沙箱、Claude Cowork 的本地 VM,分析各自的安全代价与设计取舍。核心观点包括:监管不如围堵,用户批准疲劳使人工审批失效;自建组件往往是最薄弱环节;allowlist 应理解为能力授予而非目的地过滤;隔离强度应匹配用户的监督能力。文章还讨论了持久记忆投毒、多 agent 信任升级、agent 身份等新兴风险,并提出三条核心经验:自己造的层最薄弱、allowlist 是能力授予、确定性边界优于概率性检测。

技术 › Agent yibie 2026-09-2914.2 KB 7.6K 81 86

有人把 Jev 开源复刻了,还给出了「自己微调」的完整闭环

Jared Palmer(Cognition)开源了 Kev,一族建在 Qwen3.5/3.8 之上的 Jev 式小型决策模型(0.8B~27B,Apache-2.0)。文章介绍了 Kev 与 Jev 的对比数据:Kev-27B 在新数据源上与 Jev 相差一个点以内,但作者强调这不是受控比较。最有价值的部分是完整的微调闭环:通过 coding agent 的 skill,可自动从用户代码中找出问题、转换已有标签、在 Modal 上微调并部署,一次 Kev-4B 训练在 H100 上约 1 美元,示例中把准确率从 67.7% 提到 73.6%。文章还总结了校准温度、问题隔离设计等工程细节,以及作者诚实的自我限制态度。

技术 › LLM yibie 2026-09-289.8 KB 7.4K 78 88

把 GLM-5.3-Flash 变成一个 Jev 式的 System One 模型

本文介绍一种无需微调的方法,把现成的 LLM(GLM-5.3-Flash)变成类似 Jev 的专用决策模型(System One 模型)。核心做法是给选项编号、预填答案、通过读取选项索引上的概率分布,让模型在一次前向传播中给出类型化决策及其置信度。文章详细说明了 vLLM 部署中的三个实现细节(allowed_token_ids、logprob_token_ids、tokenizer 分词),并在 29 个公开数据集上与 Jev、Laya 进行基准对比:文本决策准确性与 Jev 相当,延迟相近但成本较高;由于具备视觉能力,还能做图像上的类型化决策,这是 Jev 和 Laya 做不到的。文章还讨论了推理模式的准确性收益与成本代价、选项数量与重命名对结果的影响,并开源了实现与基准代码。

技术 › LLM yibie 2026-09-2814.3 KB 2.8K 17 87

一个给 LLM 用的 Jev 式封装,连视觉模型也能用

文章介绍了 Allan Riordan Boll 提出的 Jev 式封装技巧:通过在 Chat Completions 请求中设置 max_completion_tokens=1、logprobs 和 top_logprobs,读取 LLM 输出的 token 对数概率,将分类、布尔判断、评分等问题转化为单字母选项,实现快速高效的打分。作者进一步扩展了 attachments 字段,使视觉模型也能用同一套逻辑处理摄像头帧,判断是否有人、室内室外、亮度等,用自然语言修改判断条件而无需重训模型。文中还给出关键细节:归一化时防御性检查 API 是否静默省略了选项分数,避免得到错误的概率分布。作者强调其价值在于灵活性而非性能。

技术 › LLM yibie 2026-09-277.7 KB 2.6K 25 83

一次独立复现:CLM 的 DeepSWE 数字能跑出来,但它不是平均值

作者对开源项目 CLM(Contrastive Language Models)声称的 DeepSWE 81.6% SOTA 成绩进行了独立复现。通过三重验证(常数分数测试、用作者自带分数复算、checkpoint 哈希校验),确认 fold1 的 81.579% 可精确复现。但深入分析发现,该项目采用三折交叉验证,公布的数字是最优折,三折平均仅为 78.66%,跨度达 19 个百分点,fold2 甚至低于随机基线(主要因小样本高方差)。文章还验证了 CLM 训练成本低(纯 CPU 分钟级)、编码器可在 macOS 上运行、预训练头在 1000 条数据以内有效等结论,并指出 README 中复现命令路径失效、评估脚本未公开等问题。

技术 › LLM yibie 2026-09-2710.7 KB 1.2K 2 86

把 Jev 插进 RAG:爆速与降本到底能不能实现,实测验证

本文实测了 TypeSafe AI 发布的不生成文本的 AI 模型 Jev 在 RAG 检索流程中的效果。作者在重排、回答判断、检索前置门卫三个环节插入 Jev 进行验证:重排方面,Jev 以八分之一的成本达到接近 Cohere Rerank 的精度;在调用 LLM 之前用 Jev 判断「无法回答」,响应速度提升 5.6 倍,成本降至二十七分之一;在检索之前拦掉范围外提问,速度提升 7.4 倍,成本降至七十五分之一。此外,Jev 还能一次请求同时完成重排和回答判断。结论是用 Jev 改善 RAG 速度与成本可行,但需慎重设定阈值,避免误拦可回答问题。

技术 › LLM yibie 2026-09-2416.7 KB 10.8K 85 85

/src 里的 Markdown:Markdown 正在变成源代码

htmx 作者、Montana State 大学教授 Carson Gross 提出:在 agent 式编程时代,Markdown 正从文档演变为源代码。他认为 LLM 生成的代码不应只源自用完即弃的提示词会话,而应将捕捉系统意图的 Markdown 签进 /src,与生成代码放在一起。Markdown 具备可 diff、可 grep、人机皆可读写的优势,且遵循局部性原则,让代码模块自带解释其意图的文档。作者提议建立 /src/md 目录约定(含 README、OVERVIEW、features、data、api 等),由人撰写维护,代码与测试从这些 Markdown 派生,测试负责自动化验证正确性。当代码越来越便宜,真正有价值的是代码背后的意图,应将其持久化于源码目录之中。

技术 › Agent Carson Gross 2026-09-249.3 KB 806 6 77

AI 没有智慧,你也不会有了

文章批评'不再读代码、不再写代码'的行业风气。作者指出代码可维护性和好架构难以即时度量,其恶果需要数月甚至数年才显现,而有经验工程师依靠长期实践积累的直觉来嗅出代码异味。AI 因缺乏可度量的奖励信号,无法理解什么是可维护的代码,且从质量低劣的野生代码中学习模式,在简化代码、定义可复用函数上表现糟糕。更危险的是,依赖 AI 写代码和读代码的开发者将永远无法达到精通,因为他们不再从错误中学习。作者认为 LLM 只是工具,预言未来会有公司以'无 AI'政策作为竞争优势。

技术 › LLM Alexandru Nedelcu 2026-09-226.8 KB 4.3K 23 66

面向 coding agent 的 Jev 工程学

本文基于 Diogo Almeida 的设计笔记,从第一性原理重新审视 coding agent 的设计。作者以「如果没有 KV cache 会怎样设计」为切入点,揭示当前 agent 围绕缓存经济性形成的「只追加对话记录」范式的六大症状:路由失效、工具挤占上下文、压缩有损、子 agent 平庸、重启丢状态、内置能力争论。文章指出 token 主要消耗在读取与搜索而非写代码,并提出以 Jev 决策层为核心的方案:元注意力上下文组装、查询感知压缩、可见性阶梯、可编程权限、安全感知路由与三级工具披露,把上下文当作被有意组装而非偶然累积的对象。

技术 › Harness Engineering yibie 2026-09-2216.5 KB 8.9K 57 83

Grok 4.7:不是能力跃迁,是一次定价进攻

文章分析 Grok 4.7 发布,认为其核心不是能力跃迁而是定价进攻:输出价格仅为 GPT-5.6 Sol 的 30%、Fable 5.1 的 12%。在 CursorBench 4.0 上,Grok 4.7 Extra High 得分 46.3%,接近 Opus 5 Max 的 46.6%,但成本仅一半。相比 Grok 4.6,Terminal-Bench 几乎翻倍进步,电气工程和法律基准大幅领先,但在 CursorBench 和 Terminal-Bench 上仍落后 Fable 5.1。技术改进包括更大基座、更长 RL 训练、更强的自我验证和 500K 上下文,并为 Grok Bot harness 做原生训练。作者指出,强模型低价化正在削弱「强模型规划、弱模型执行」的省钱架构逻辑。

技术 › LLM yibie 2026-09-227.4 KB 1.5K 1 83

AX:把 Kubernetes 的心智模型搬到 agent 上

AX 是 Google 开源的 agent 编排器,借用 Kubernetes 的心智模型来管理大规模 agent。它针对 agent 需要积累状态、严格隔离、调用外部模型 API 且容易在循环中消耗资源的特点,提供四个声明式原语:Task(最小隔离执行单元)、Workspace(声明化环境装配)、Gateway(网络边界控制)和 Model(命名化模型配置)。命令行刻意设计成 kubectl 风格,支持秒级挂起与恢复。架构上状态存储在 Redis 而非 etcd,底层依赖独立项目 Agent Substrate 作为执行层。部署需要 Kubernetes 集群,适合大规模 agent 评测、RL 循环和管 coding agent 的团队,不适合个人开发者。

技术 › Agent yibie 2026-09-218.0 KB 15.1K 95 76

如何用自己的数据微调一个小模型

本文是翻译整理的完整小模型微调指南(原作者Rahul),主张用1.5B参数模型配合200-500条高质量样本微调,即可在特定任务上超越通用前沿大模型。文章涵盖微调的正确认知(微调非提升智能而是稳定窄任务)、三个基线建立、选择Qwen2.5-1.5B等小基座模型、数据权利确认、PDF/OCR文本抽取与清洗、按公司切分数据集、QLoRA训练超参配置、幻觉数字检测评测、vLLM部署及监控重训策略。强调数据合规和评测纪律是真正值钱的部分,附完整可运行代码。

技术 › LLM yibie 2026-09-2010.3 KB 213.6K 1.1K 86

Jev 怎么用:三种提问原语与分层阈值

文章系统讲解了 TypeSafe 的 Jev 决策模型的使用方法。Jev 接收非结构化状态和问题,返回类型安全的答案、概率分布和置信度,提供三种提问原语:Noul(是/否判断)、Choice(选项挑选)、Score(档位评分)。文章介绍五条上手路径(Playground、HTTP API、Python SDK、Agent Skill、开源适配器),并总结提问技巧:一个问题只问一个判断、多因素拆开加权、档位写具体情形而非程度、一次问满并行问题以节省成本。置信度使用上推荐按风险分层设置阈值的三段式策略。文末讨论成本速度、边界限制及社区应用场景,并介绍了开源替代 OpenJev。

技术 › LLM yibie 2026-09-1812.9 KB 80.6K 605 88

如何在一张 GPU 上服务 100 个微调模型

文章介绍如何在单张 GPU 上高效服务大量 LoRA 微调模型。将适配器合并进基座会为每个变体生成 15.2GB 的完整模型副本,而分开保存适配器只需约 40MB,共享基座后 100 个变体仅占 19.3GB。作者对比了四种部署形态(合并独立 endpoint、启动时注册、请求时解析、托管按租户),并在 Runpod 上用 Qwen 1.5B 训练三个 LoRA 适配器做实验。结果显示共享 endpoint 复用 worker 池,显著减少冷启动与显存浪费;同时强调应分开记录等待时间与执行时间,并通过镜像缓存优化冷启动延迟。

技术 › LLM yibie 2026-09-1611.8 KB 5.4K 38 86

语音 agent 这 30 天:全双工落地,排行榜开始打假,生产数字出来了

本文汇总了近 30 天(8/16-9/15)语音 agent 领域的重大进展。核心变化包括:OpenAI 推出全双工语音模型 GPT-Live-1 进 API,替代传统 STT-LLM-TTS 三段拼接架构;一波新模型与产品密集发布(Tavus、Soniox、HeyGen、ElevenLabs 等);评测开始'打假',Jarvis Bench 把真人放进排行榜检验模型真实能力;Natera 公司首次公开生产环境语音 agent 的详实数据(成本、延迟、NPS 等);语音正从'对话层'演变为'编排层',成为调度多个 agent 的入口;开源与本地方案(Voicebox 等)蓬勃发展。

技术 › TTS yibie 2026-09-159.8 KB 3.9K 11 81

pstack 完整指南 Pt.2:用代码规划

本文是 pstack 指南第二部分,介绍作者用 agent 进行调研、规划、原型和架构的工作流。核心观点是通过 /teach、/recall、/how、/why 等 skill 建立并保持对代码库的心智模型;用「readme 驱动开发」和 /technical-writing skill 以代码和文档形式规划;用 prototype 剧本并行生成多个方案让 agent 以实证回答开放问题;用 /architect 多阶段流程跨模型家族竞争设计并交叉评判。作者强调抽象计划只给人进步的幻觉,应让 agent 通过原型和验证自己回答问题,从而每月将数千个 PR 推进生产并保持高质量。

技术 › Agent lauren(@poteto),yibie 翻译 2026-09-1517.5 KB 6.7K 46 87