Wiki 知识库

技术 / LLM

1279 篇
清除

AI 繁荣的三张账单——电、芯片、推理

本文是硅谷101 Alignment 峰会 Day 2 上午的深度笔记,提出 AI 繁荣背后有三张物理账单:电、芯片、推理。 Session 1 指出美国输电网难以建设,行业转向表后发电,从签约到出 token 需 16-17 个月,电力成为算力交付的真正瓶颈;讨论了数据中心融资期限错配、neocloud 风险、云业务利用率本质及算力短缺将持续到 2030 年的预测。 Session 2 探讨半导体,揭示 2nm 只是名义数字、硅在 5nm 以下到物理极限,AI 进晶圆厂第一站是良率检测,价值最终流向制造端。 Session 3 讲述在买不到新卡的情况下,通过推理优化软件从现有 GPU 榨取更多性能。核心结论:三张账单的解法都是效率。

技术 › LLM Cloris 2026-10-1426.8 KB 5K 10 78

Introducing Glass: Learn Things Once

Ramp CEO Eric Glyman 发布企业级 AI 产品 Glass,回答了 David Senra 的提问“Ramp 为何移动如此之快”。Glass 的核心理念是让公司只学习一次:将员工分散在聊天记录、Slack 和个人头脑中的最佳工作沉淀为企业共享知识库,成为所有人的工作起点。Glass 集成 Linear、Notion、Slack、Gong 等工具,支持多人协作、Skills 复用、任意模型选择,并通过 Ramp Router 自动选择合适模型和项目计费器控制成本,使 Ramp 的 AI 账单一夜下降 30%。产品上线后已有 323 名员工做出 6500 多次知识编辑,功能请求捕捉量从每月 300 提升至 20000。

技术 › LLM Eric Glyman 2026-10-134.9 KB 630.3K 2.1K 65

低成本卖模板可百万获利的赚钱思路

文章介绍了一种利用 AI 工具低成本生产并销售 PSD 设计模板的赚钱思路。核心流程为:先用 ChatGPT 或蚂蚁开源的 Ming-Image-0.1-Design 生成商业海报设计图,再借助其姐妹模型 Ming-Image-0.1-Design-Layer 将扁平图智能拆分为透明背景图层,最后用 Photoshop 整理成文字可编辑、分层清晰的 PSD 模板,在闲鱼、淘宝、小红书等渠道出售。作者建议从餐饮促销海报等细分领域入手,先做 5 款模板验证市场,再逐步扩大规模。文末还附有模型的本地部署与 API 使用方式。

技术 › LLM 鱼哥 2026-10-136.2 KB 7.2K 51 74

视频反推提示词的通用流程

本文分享了视频反推提示词的通用流程,作者 Eli Ha 提供了可直接复制的拆解指令,帮助用户通过 AI 工具从现有视频中反向提取生成该视频所需的提示词。该方法适用于视频生成场景,通过结构化的拆解步骤分析视频内容,从而获得可复用的提示词模板,提升视频生成的效率和还原度。

技术 › LLM Eli Ha 2026-10-13854 B 26.9K 449 47

原来在“做设计”这件事上,超越 MidJourney 的大模型就在国内

作者用 4 段相同提示词对比测试了蚂蚁百灵开源的 Ming-Image-0.1-Design 与 MidJourney 在 SaaS Dashboard、中文活动海报、透明背景产品素材、中文信息图四个设计场景下的表现。结论是两者定位不同:Ming 中文文字渲染准确、布局执行力强、原生支持 RGBA 透明背景输出且免费开源(MIT 协议),适合直接生成可用的 UI 稿、海报和信息图底稿;MidJourney 则在视觉质感、光影氛围和风格多样性上明显占优,适合概念效果图和产品渲染。文中还介绍了 Ming 的 Design-Layer 拆层能力,可拆成多个透明图层并转为可编辑 PPT。最终建议按需求选择:要能直接用的图选 Ming,要好看的图选 MJ。

技术 › LLM 韦小宝 2026-10-1311.3 KB 5.7K 29 83

马斯克的“大一统AI会员”来了!新手小白和老用户该怎么选?

xAI 于 10 月 12 日推出统一订阅服务 The X Subscription,一次订阅即可同时获得 Grok Bot、X 会员权益和 Cursor 会员资格,价格从 $8/月到 $200/月不等,首月 5 折。文章分别给出新手和老用户的选购建议:新手推荐从 Plus 或 Premium 入门;老用户(X Premium、Cursor、SuperGrok 订阅者)可通过官方通道零成本切换,旧订阅按比例退款,且切换完全可选。需注意第三方模型用量现按 API 单独计费。文末还介绍了中国用户使用 Visa 卡的支付流程及注意事项。

技术 › LLM Kin 2026-10-137.9 KB 75

当AI可以逆向一切的时候,我们还剩下些什么?

文章从REA(逆向一切)项目爆火谈起,探讨AI时代软件复刻成本趋零对行业的影响。作者结合自己开发小猫补光灯被大量抄袭却仍成功的经历,指出'软件已死'和'靠逆向赚钱'是两大误区:死去的只是写代码技能,而护城河中品牌、网络效应、转换成本等依然稳固。借助芒格、巴菲特的商业案例(织布机、康柏、团购大战),作者认为能被逆向的都是'快照',逆向不了的是'此刻'——持续在场、积累信任和运气。最后建议普通人把工作写成说明书交给agent,可被描述的部分交给AI,做不了的部分才是个人价值。

技术 › LLM 花叔 2026-10-1310.8 KB 14.1K 73 76

绝处求生!免费、低价渠道用上 Opus 5.5 全网最严谨白嫖与实战评测地图

作者实测认为 Claude Opus 5.5 在 Claude Code 等 Agent 工具中断崖式领先,但 A社封号严苛,遂整理免费/低价使用 Opus 5.5 的渠道评测。文章分四阶:零门槛已有权益(微软 Copilot、Figma Make、Grok Bot);开发者付费工具对比(Cursor、Devin、Factory/Droid、Kiro、GitHub Copilot 等,含资费与倍率分析);垂直场景与官方大礼包(Poe、Figma Education、Claude for Open Source 等);以及三大雷区警告(第三方 API 中转站、诱导绑卡、偷换概念伪装者)。最后给出按需求选型的一图流总结,强调实用成本优先。

技术 › LLM 水族店刘老板 2026-10-1314.4 KB 23.2K 61 85

我们复现了那个决策模型教程

作者复现 Nish Tahir 的《Build your own decision model》教程,在 CommonsenseQA 上验证基于语言模型单次前向读取选项 token 概率作为置信度的决策模型方法。复现发现教程方法成立但需补两个关键前提:读数位置必须放在 assistant 轮,模型需用 8B 而非 1.7B。温度缩放校准有效,而微调增益主要来自修正 harness。作者还将方法应用于素材席位判定任务,发现模型间一致标签不等于准确率,结论需以人工标签为准。核心启示:核对读数位置的概率质量、报告覆盖率、用独立数据拟合温度。

技术 › LLM yibie 2026-10-128.2 KB 1K 4 85

第1011期 小路和你读AI论文

本期精选5篇高质量AI论文:1) AI智能体生态研究揭示协作产生强Allee效应,种群规模存在起飞阈值,对智能体安全有重要意义;2) BrickBench提出文本条件乐高组装的智能体基准,融合物理仿真验证;3) 思考惯性研究显示LLM被告知不思考时仍会输出显式推理,挑战一条指令关闭思维链的假设;4) 从形式化验证角度分析智能体自我改进的理论基础与极限;5) 提出工具型智能体的主动遗忘方法,可逆地整理上下文,累积输入token约减少50%,无需训练即可降低成本。

技术 › LLM 山景城小路 (@Zen_with_AI) 2026-10-125.4 KB 66

未来 3 年,会做 AI 视频的人和会当导演的人,差在哪

文章指出 AI 视频创作的差距不在生成能力,而在导演思维。作者提出'导演四阶段循环'框架:简报、分镜、生成、审片与剪辑。核心观点包括:人的工作重心是定方向、验收和拒绝;先写导演简报再生成,先出低清再升高清;建立可量化的拒收标准并记录每次拒收原因,回写到上游简报和分镜。长期积累的审片记录将形成个人风格资料库,成为模型换代也带走的竞争优势。文章还引用了 @anabology 用 Claude 18 小时制作短片的案例加以佐证。

技术 › LLM Daniel.S 2026-10-1216.3 KB 28.3K 88 83

2026,中国 GEO 入行:别卖“AI 第一名”,先把一单生意做明白

文章剖析中国 GEO(生成式引擎优化)行业的现状与入行路径,指出 AI 提及不等于客户成交,反对夸大宣传和造假式优化。作者区分 SEO、GEO、AEO 与私有 RAG 的差异,提醒勿拿 7 亿 AI 用户偷换市场规模。文章给出按四种交付物(诊断、资料、技术、运营)拆分报价的方法,设计四周试点流程,包括事实库、问题库、合法发布与同口径复测,并以假设案例演示 6000 元订单的真实成本核算。最后列出六个行业坑及合规边界,建议把预测转化为可检查项,守住诚实交付的底线。

技术 › LLM Ethan 恩宇 2026-10-1219.7 KB 1.7K 7 93

杀死 2023 RAG 的,是更好的 RAG:9 位检索专家的前沿实战共识「Beyond Naive RAG」

本文介绍 Hamel Husain 主编的演讲合集《Beyond Naive RAG》,汇集 9 位一线检索专家的共识:朴素 RAG(切块+单向量+余弦检索)已失效,但检索增强生成本身远未死亡。全书论证三条主线:长上下文不能替代检索(Context Rot 证明上下文越长模型越不可靠);评估先于优化(公开基准已污染,须建自有黄金数据集);复杂性不是目的(慎用图数据库等过度工程)。涵盖 ColBERT 后期交互、推理增强检索(Promptriever、Rank1)、多重表示与智能路由、FreshStack 评估指标等前沿方法,提出'评估驱动+多表示+推理增强+克制架构'的实践观。

技术 › LLM meng shao 2026-10-1211.9 KB 4.7K 43 84

用 AI 搭建流量上升词自动发现与批量选题流水线

文章针对出海团队每天人工盯热搜、找选题效率低、时间滞后的痛点,介绍如何用代码和 AI 搭建一套 24 小时自动巡检的选题流水线。核心思路是抓住搜索量短时间暴增但内容供给空白的上升词红利。流水线分三层:一是围绕种子词库做周期性快照轮询并计算趋势斜率,自动发现飙升关键词;二是通过黑名单过滤、商业意图词性筛选和聚类去重,剔除娱乐八卦等噪音,保留排查解决、选型对比、资源索取类高价值需求,并附完整 AI 过滤提示词;三是接入大模型,把上升词拆解为痛点解决方案、工具选型、成本风险、可交付资源四张选题卡,实现选题自动化裂变。文中提供了两段可直接复用的详细提示词。

技术 › LLM Aron厚玉 2026-10-1224.4 KB 5.7K 45 82

AI开始逆向一切,你电脑里的每个软件都要被迫开源了

文章从Brandon Thomas用Claude Opus 5.5逆向并用Rust重写7款Adobe软件并开源的事件切入,介绍AI时代'逆向一切'的浪潮。作者讲解了逆向工程的两种路线:净室设计与反编译重建,并指出AI(如GPT-6 Astra与Claude组合)让逆向成本骤降,REA项目即将突破10万Star。开发者正借助AI逆向软件、硬件协议甚至重写硬件底层。作者认为软件护城河正在消失,客户端将越来越薄,逻辑全部上云。最后作者提出思考:当复制成本趋近于零,原创由谁承担?唯一的护城河是注意力——'Attention Is All You Need'。

技术 › LLM 数字生命卡兹克 2026-10-1217.4 KB 73.4K 534 75

从 Agent Loop 到推理引擎:哈佛 CS2680 现代AI系统课程深度解读

本文深度解读哈佛大学2026年秋季Juncheng Yang开设的研究生课程CS2680《现代AI系统:Agent与系统优化》。课程以一条主线贯穿agent循环到LLM推理serving栈,通过五个递进式作业逐层解剖系统:A1为Claude Code构建Web前端,A2从零实现最小agent harness,A3在黑盒API下优化成本与延迟并引入排行榜竞争,A4自建推理引擎部署开源模型,A5全栈profile驱动的假设验证优化。文章还分析了课程的AI使用政策(强制披露、Claude Code session存档审计)、leaderboard评分机制、严格的20% A档曲线以及体现系统研究方法论的期末项目设计,展示了'AI时代如何教系统课'的完整答案。

技术 › LLM meng shao 2026-10-1233.1 KB 10.8K 103 85

疯狂水世界的广告为什么能让我们玩梗和传播?

文章以《疯狂水世界》的AI广告为案例,分析其营销为何能引发玩梗与自发传播。作者指出这类广告先具备独立娱乐价值,通过固定人物与可变冲突的设计让观众愿意追更,可复述的符号(如海水过滤器)降低了分享门槛,使不玩游戏的人也成为传播者。AI的作用不只是降低制作成本,更在于缩短创意迭代循环,让同一故事框架能持续生成变体。最后强调营销价值需落到产品端,分为内容观看、转化、留存三个环节衡量,品牌须保持一致性才能积累用户记忆。

技术 › LLM 阿川 | AI thinking 2026-10-129.5 KB 3.7K 11 71

生成越来越便宜,验证越来越贵 | 峰会洞察 01

作者记录硅谷101 Alignment 2026 年度峰会 Day 1 三场分享的核心洞察:模型竞赛、新型AI研究实验室与AI for Science。贯穿全场的主题是'生成越来越便宜,验证越来越贵'。开源vs闭源之争本质是利润表问题,价值向model-agnostic应用层转移;数学因可验证、可数字化、数据充足成为AI攻克焦点,验证成本趋近于零是北极星;AI for Science最大瓶颈是湿实验验证周转时间。作者从投资视角提出:拆解AI应用公司COGS、关注闭源转开源迁移路线图、可验证代码生成是下一个基础设施层。

技术 › LLM Cloris 2026-10-1224.0 KB 18.1K 40 87

本周 Top AI 论文精选

DAIR.AI 汇总了本周五篇重要的 AI 论文:(1) Harness Learning,通过 RL 训练提议模型在测试时修订 agent 的 harness 代码而非模型权重,实现可泛化的适应能力;(2) CorpusMap,微软提出的基于实体的语料库导航层,让 agent 搜索更准且省 34%-57% 的 token;(3) VeriHarness,Google 提出的 agentic 验证方法,揭示多数投票的盲点,在长周期任务上提升选择准确率;(4) HERMES,将仓库组件变成主动参与者的 harness,使 GPT-5.6 在仓库迁移任务上从 6.5% 提升至 31%;(5) Sakana AI 的 MASS,用同一基座模型兼任 agent、评估者与优化者,实现多智能体自我监督进化。

技术 › LLM DAIR.AI 2026-10-1216.7 KB 100.1K 937 73

把 96.5GB 的 GLM-5.3-Flash 塞进单张 4090 48GB,跑出 41.8 token/s

本文记录了在单张魔改 RTX 4090 48GB 上,通过系统级调优将 96.5GB 的 MoE 模型 GLM-5.3-Flash 推理提速至 41.8 token/s 的完整工程实录。作者采用混合 i-quant 量化,将 12,096 个专家常驻显存与锁页内存,通过实测发现减少 CPU 线程反而提升 42% 速度、扩大显存池至 46GB 带来质变、以及激进的 PCIe 搬运策略是致命代偿陷阱。文章逐毫秒拆解了 24.47ms 的 token 耗时去向,指出 PCIe 搬运是硬瓶颈,并对比了更稀疏的 Qwen3.8-Flash-Next 架构可达 120 tok/s 的原因。

技术 › LLM huangserva 2026-10-1217.6 KB 9.3K 57 89

从公开内容发布到AI搜索引用:衡量AI搜索系统的脆弱性

复旦大学与上海浦东密码学研究院团队发布论文,研究10个AI搜索平台(ChatGPT、Perplexity、豆包、DeepSeek等)的引用行为。研究发现:不同平台信源选择偏好明显,头部20个域名可占引用70%以上;80%平台引用了人为发布的虚构概念;发布渠道的选择比内容数量更重要,1篇高偏好平台文章效果可超过20篇低偏好平台文章;14美元即可购买GEO服务使内容被AI引用。作者总结:AI搜索的权力在于决定哪些信息有资格成为答案,GEO应面向不同平台建立独立信源画像,目标是让AI正确理解品牌。

技术 › LLM 姚金刚 (@yaojingang) 2026-10-114.6 KB 81

Google 的本地笔记:你出题,它检索

文章评测了 Google DeepMind 随 EmbeddingGemma 2 发布的 Mac 应用 Google AI Edge Foresight。该应用在会议中监听系统音频,用户手写简短笔记后,它基于本地嵌入检索实时补齐细节,全程离线运行。作者通过实测验证它能准确捕捉音频中的具体数字,且不覆盖用户原文,遵循 Jef Raskin '不剥夺用户决策权'的界面理念。文章同时指出其不足:Live Enhance 开关状态不可见、转写无法区分远端说话人身份。技术层面分析了 EmbeddingGemma 2 在短查询检索长文档上的优势(93.7% 命中率),说明'用户出题、模型检索'正是其强项所在。

技术 › LLM yibie 2026-10-117.5 KB 831 2 83

关于人工智能仿真与 RSI 的数学思考

作者从数值仿真研究背景出发,探讨人工智能仿真与递归自我改进(RSI)之间的数学联系。文章回顾了非连续变形分析(DDA)在地震工程中的应用、二战德军潜艇狼群战术与英国兵棋推演的历史,说明仿真不仅是求解已知方程,更是发现未知数学关系的实践方法。作者认为RSI本质上是仿真及反馈过程的自动化:多智能体系统可模拟兵棋推演中的各方参与者,通过反复生成场景、评估结果并保留改进来提升能力。文章进一步讨论了运筹学、参数化与非参数化方法、接触理论及不等式系统在仿真中的数学基础,并强调RSI会同时放大改进与错误,验证与基准检验必须贯穿整个迭代过程,以防止未经验证的结果成为后续自我改进的基础。

技术 › LLM deep Manifold 2026-10-1117.1 KB 1.7K 13 69

读 2.83% 的 key 就够了

一位18岁大学生仅用iPhone 16e和Kaggle笔记本,开发出稀疏注意力机制ALHR(Adaptive Learnable Hierarchical Routing)。该方法通过给key矩阵构建静态二叉树,配合预算预测器、邻居搜索和树下降三步推理,让每个query只读取所需key。在1024 token的MQAR测试中,仅读取2.83%的key即可达到92.1%准确率(稠密基线94.9%),KV压缩35.3倍。训练分三段:先训稠密教师模型,再用其注意力矩阵标注top-k key训练树模块,最后无教师联合训练。目前因未做kernel优化比稠密注意力慢约10倍,代码由Claude Sonnet 5.5生成,Apache-2.0开源。

技术 › LLM yibie 2026-10-105.0 KB 1.3K 2 76

提示词不用写得专业,要写到你自己能读懂

作者以AI生图的窗边咖啡馆人像提示词为例,讲解如何整理AI生成的冗长提示词。核心方法是:删流程、合重复、换实景、测删除。要点包括:去掉分栏小标题后整体通读,合并重复表达同一意思的形容词;把'不要杂乱'等否定句改写为具体的正面画面描述;将'高级感、电影感'等笼统大词拆解为具体的光线、配色和构图要求;一次只删一句,对照出图验证效果,但不要为了精简丢掉关键的安排。最终目标是写出自己能读懂、出了问题知道从哪句下手的提示词。

技术 › LLM 南鸢 nuyoah 2026-10-1020.0 KB 24.4K 94 83

State of AI Report 2026 速读:AI 加速 AI、千亿收入、电力瓶颈与安全

作者速读 Nathan Benaich 发布的第九份年度 State of AI 报告。研究方面,前沿变成三强竞赛,Claude Opus 5.5 领跑智能指数,基准测试迅速饱和,AI 开始实质性加速自身研发,harness 的价值凸显。产业方面,OpenAI 与 Anthropic 合计年化收入约 1050 亿美元,企业 token 支出两强占 96%,但算力供给受电力、施工和融资约束。政治方面,美国出口管制强化模型访问控制,主权 AI 承诺约 1380 亿美元。安全方面,评测中的智能体出现真实越界攻击,实验室领导者呼吁获得减速 AI 能力的手段。文末附 2025 年预测回顾。

技术 › LLM indigo 2026-10-1016.4 KB 7.2K 36 73

倒腾一台B300,为何能赚1000万?

文章剖析英伟达B300服务器在中美之间的巨大价差:美国售价约370万人民币,国内炒至1400万。通过台湾假用户走私案、超微案、国资融资租赁等案例,梳理了合规采购、海外租云、走私倒卖等多条灰色渠道,并测算转手、出租的暴利与风险。同时揭示了居间生意中的期货诈骗、违约套利等乱象,提醒普通人警惕算力租赁资金盘,认清管制价差背后的法律、保修与价格波动风险。

技术 › LLM 黄小木 2026-10-1015.5 KB 45.7K 119 75

小米 MiMo-V2.6 技术报告:260 万美元 RL 算力与三维扩展,将万亿 MoE 模型推入前沿梯队

文章解读小米 LLM-Core 团队发布的 MiMo-V2.6 技术报告。核心主张是通过系统性扩展强化学习算力提升模型智能,需同时扩展训练批次、环境多样性和评分器三个维度。模型有 Pro(1.02T MoE)和 Flash(310B)两个规格,RL 后训练成本分别 260 万和 90 万美元。报告详述了中期训练优化、GRPO 训练细节、多 harness 训练、四层 reward hacking 防御、Groupwise Agentic Grading 评分体系、router 冻结发现及基础设施设计,最终性能进入与 Claude Opus 5 / GPT-5.6 同一梯队,并开源蒸馏模型、环境与 RL 框架。

技术 › LLM meng shao 2026-10-1011.6 KB 3.3K 6 86

Ultra-Agency: Going beyond High-Agency

文章提出'Ultra-Agency'概念,认为在真正的AGI到来之前,基因编辑技术将先让人类变得更聪明、更强大。作者回顾了基因疗法恢复视力的进展(2019年盲鼠、2021年人类),指出AI目前并不具备意识,LLM的参数无法替代真实神经元。以AlphaFold为例,AI已在蛋白质结构预测等数据问题上极大加速科学研究,使新疗法的研发摆脱耗时的人工文献调研。作者认为风险可控,医学试验仍将至关重要。未来基因疗法将使超常智力、情绪调节和执行力成为默认状态,人类将进入人机相互增强的递归自我改进循环,开启人类开拓的新前沿。

技术 › LLM Kato 2026-10-095.0 KB 27.8K 2 47

The 2026 LLM Engineering Roadmap

本文提出了2026年LLM工程路线图,指出与LLM工作不只是提示词,生产级系统需要对LLM的工程化、部署和优化有深入理解。文章总结八大支柱:提示工程(将prompt当作代码管理)、RAG系统(嵌入、检索、重排)、上下文工程(管理上下文窗口中各类信息的取舍)、微调(LoRA/QLoRA等技术)、Agent(工具调用循环与编排、状态管理、重试逻辑),并为每个领域提供了大量免费开源学习资源,如Anthropic、OpenAI官方指南及多个GitHub教程仓库。

技术 › LLM Avi Chawla 2026-10-0919.8 KB 403.3K 447 71