Wiki 知识库

技术 / LLM

1284 篇
清除

AI 股票分析系统 — 技术方案仅供交流

本文介绍了基于 ChatGPT Codex 搭建的 AI 股票分析系统的技术方案,该系统定位为 AI 投资研究与信息处理系统,非自动交易或涨跌预测。文章详细阐述了系统的整体架构(6层)、技术选型(数据源、AI模型、调度、推送)、核心数据流、评分体系、配置说明、运行部署、安全边界及关键风险。作者强调工程上先单模型跑通更稳,评分不等于涨跌概率,并提供了与主线项目(Codex 式 Agent 桌面应用)的关联建议。

技术 › LLM Kelvin 2026-08-209.3 KB 79

2026年8月19日:奇点周报

本文是2026年8月19日的AI与科技新闻综述。文章指出,AI前沿发展正受到安全许可的限制,OpenAI暂停了前沿强化学习训练,而Anthropic发现了新的安全漏洞。同时,开源模型发展迅速,Claude在蛋白质设计上取得突破。此外,文章还涵盖了AI安全产品、硬件市场动态、物理AI投资、太空探索、UFO披露、生物技术进展以及加密货币监管等话题。

技术 › LLM Dr. Alex Wissner-Gross 2026-08-2013.6 KB 20.7K 381 71

机器学习和新物理学:Physics of AI

本文尝试将机器学习视为一个复杂世界,借鉴物理学的研究方法,为其构建一套“新物理学”。文章首先论证守恒量和对称性比微观方程更根本,通过解析力学、热力学和量子场论的历史案例说明这一点。随后探讨真实世界中对称性破缺的层级,类比非惯性系中的守恒量变化,为后续将机器学习中的训练过程映射为对称性破缺和守恒量变化奠定基础。

技术 › LLM snowboat 2026-08-2078.9 KB 7.2K 24 69

重新审视 CPU 资源作为语音模型 Serving 过程的一等公民

本文回顾了 SGLang Omni 项目在 CI 运行中发现的 CPU 瓶颈问题。由于语音模型推理具有短请求、高并发的特点,CPU 资源成为性能的关键瓶颈。通过实验发现,CPU 资源争用(而非核数不足)导致每个请求消耗更多 CPU 时间,从而显著降低吞吐量。文章详细分析了争用的微观机制,并提出了通过 cpuset 绑核、优化编译缓存等修复措施,最终显著提升了 CI 的稳定性与性能。

技术 › LLM Chayenne Zhao 2026-08-2028.5 KB 14.5K 67 84

What PMs need to know about verification loops in software factories

本文探讨了在软件工厂中验证循环(verification loops)对产品经理(PM)的重要性。文章指出,随着AI代理的普及,人类不再直接提示模型,而是通过编写循环让代理自主工作。验证循环是代理工作、评分、再工作的迭代过程,其中评分器(grader)是关键部分,PM应参与定义评分标准,以确保产品符合用户需求。文章详细介绍了验证循环的五个组成部分、五种评分方法(确定性检查、LLM作为评委、浏览器视觉验证、模拟环境和离线实验),并举例说明如何在构建循环和优化循环中应用这些方法。最终强调,PM在优化循环中可以利用验证循环来评估产品上线后的用户行为,从而推动产品改进。

技术 › LLM Amplitude 2026-08-2012.1 KB 1.7K 14 76

RAG架构详解:检索、增强与生成

本文深入解析了生产级RAG(检索增强生成)系统的完整架构。文章首先指出LLM的局限性——无法访问私有数据,而RAG通过外部知识检索来弥补这一缺陷。然后详细介绍了系统的两大核心平面:知识平面(离线索引)和运行时平面(在线问答)。知识平面涵盖数据源、解析-分块-嵌入流水线以及向量索引;运行时平面则描述了用户查询、检索重排、LLM生成和答案引用的完整流程。文章还逐步拆解了查询生命周期,包括查询嵌入、Top-K检索、重排增强和生成,并强调了监控指标的重要性。

技术 › LLM Vikas gupta 2026-08-2020.4 KB 260.7K 69 73

如何为每个编码代理提供相同的第二大脑

本文探讨了在多个编码代理之间切换时产生的“重置税”问题,即代理间缺乏共享状态导致重复探索、决策冲突和效率低下。作者提出解决方案:不复制整个会话,而是创建一个可移植的、经过审计的任务契约,记录已验证的任务状态、约束和决策。文章强调模型与工具链应分别路由,并指出共享状态应包含权威数据而非未经验证的信息,以避免上下文过载和记忆污染。通过小型、版本化的契约,不同代理可以无缝协作,同时保持各自的优势。

技术 › LLM Rohit 2026-08-2025.3 KB 330.7K 263 76

BestBlogs 早报|Addy 谈认知投降与验证环,Laycock 区分公民构建与专家治理,17 岁作者的 ICML 路径

本期早报聚焦 AI 工程与治理。Addy Osmani 在访谈中提出'认知投降'概念,强调验证环和爆炸半径限制的重要性;Rachel Laycock 在 Martin Fowler 网站发文,区分公民构建与专家治理,提出'公民构建,智能体执行,专家治理'的组织模式;17 岁少年苏廷浩分享其论文被 ICML 2026 接收的路径。速览涵盖 AI 医疗安全交付、研发项目管理、Grok CLI 数据上传争议、实践者之声、个人 AI 代理宪法、OpenAI 零数据保留服务及宇树科技上市等话题。

技术 › LLM ginobefun 2026-08-2028.7 KB 11.6K 2 70

AI 记忆分数超过人类参考,这条新路线创业公司也能走

本文介绍了AI长期记忆领域的最新进展,重点分析了Alloomi公司在LongMemEval-S等评测中取得超过人类参考分的成绩。文章详细解读了其背后的技术路线——基于开源模型的自进化后训练流程,包括数据收集、质量筛选、专家锚定、后训练、评测准入和版本回滚等步骤。作者认为,这条路线降低了创业公司的门槛,将竞争焦点从算力转向数据和流程,为行业模型的发展提供了新思路。

技术 › LLM 产品经理老王霸 2026-08-1911.1 KB 17.4K 28 71

GPT2 x 手账 x 手绘 x 插画 x 拆解 x 美学提示词 x VOL.007

本文分享了作者在GPT2模型下创作手账风格美学提示词的经验,提供了一套详细的提示词模板,用于将照片转化为上下结构的高级设计海报,上半部分保留原始照片,下半部分重构为手写观察图谱,强调直观对比和参与感,并展示了多张示例图片。

技术 › LLM 小小东 2026-08-194.1 KB 66

Epoch AI 2030年预测:AI 将最先替代可验证的脑力工作

Epoch AI 发布119页报告《What will AI look like in 2030?》,预测到2030年AI将最先大幅推进软件工程、数学、文献调研、数据分析等可验证的脑力工作,而非全自动实验室。报告指出,AI落地速度取决于任务是否数字化、结果可验证、失败可回滚等因素,并强调软件工程、数学和桌面研究将率先被AI改造。

技术 › LLM FlowOps Daily 2026-08-1913.5 KB 1.3K 7 72

从单机到双机:小白靠 AI 助手跑通 124B 大模型的完整记录

本文记录了一位非计算机出身的普通用户,借助 AI 助手,成功在双节点 NVIDIA DGX Spark 上部署蚂蚁百灵 124B 参数的 Ling-3.0-flash 模型,并完成单机 FP4 与双机 FP8 的对比评测。文章详细介绍了从模型下载、SGLang 编译、单机部署到双机配置、公网 API 开放的全过程,并提供了性能数据、踩坑清单和 AI 协作方法论。核心结论是:双机在长输入预填充上优势明显(2.2倍),但解码速度提升有限;上下文长度是硬约束,单机 FP4 适合日常任务,双机 FP8 适合长文档处理。

技术 › LLM Xiangyu 香鱼 2026-08-1916.2 KB 172.2K 163 86

提示工程背后的科学

本文总结了最新的学术研究,揭示了提示工程中的关键原则。作者指出,随着AI模型的快速发展,旧的提示技巧已过时,并基于最新论文提出了五个核心建议:不要以“对吧?”结尾、忘记“逐步思考”、不信任模型的自信、最多三条规则、目标优于示例。文章还提供了实用的提示模板,帮助读者更有效地与AI交互。

技术 › LLM Ruben Hassid 2026-08-198.7 KB 51.3K 104 82

搞了半天听说发提示词能涨粉

本文作者分享了一个自己一直在使用的提示词,旨在让AI助手表现出古怪、聪明且难以预测的行为模式。该提示词要求AI在保持正确性的同时,追求意外性、趣味性和陌生感,鼓励跨领域类比、质疑默认前提、创造新概念,并避免标准AI套话。作者还设定了内部评分机制,确保回答质量,并强调在连续符合预期时主动制造合理异常。

如何构建可持续维护的评估集

本文介绍了如何为AI Agent构建可长期维护的评估(eval)指标体系。指标分三类:目标指标、护栏指标和运营指标,三者结合使用。候选指标来源于错误分析和产品目标与硬约束。并非所有候选都值得跟踪:一次性问题用prompt修改解决即可,只有需要持续追踪的泛化问题才建指标;每个指标必须与具体决策挂钩,否则就是噪音。从零开始时,可先阅读30-50条trace并用自由文本笔记聚类失败模式。此外需定期重跑错误分析、退役失效指标,并警惕Goodhart定律导致的过拟合。

技术 › LLM Lotte 2026-08-198.4 KB 89.1K 476 83

施工图 vs 创意简报:跨模型图片生成迁移时提示词的正确改法

文章针对在 Google Nano Banana 与 OpenAI GPT Image 2 之间迁移图片生成提示词时的常见误区进行辨析。作者指出长提示词翻车的根源不在长短,而在于信息冲突、约束缺乏优先级、参考图职责不清以及一次性要求过多。文章提出'创意简报'与'结构化施工图'两种提示模式应按偏差成本选择而非按模型选择,并给出重做任务定义、约束优先级、参考图职责与迭代方式的四层迁移框架,最后强调模型差异需通过严格的对照实测验证。

技术 › LLM VoxCat 2026-08-199.9 KB 4.9K 4 82

什么他妈的叫他妈的人味:AI写作检测与去AI味研究

作者基于10亿Token、100篇论文和10+开源项目的调研,探讨'AI味'与'人味'的本质。文章从1964年《联邦党人文集》作者鉴定讲起,梳理了GPTZero等检测器依赖的五组信号(困惑度、突发性、词汇分布、结构模板、模型指纹),指出所有检测器测量的都是文本偏离群体均值的程度,'AI味就是均值味'。文章对比了去AI味的'减法'(删除AI痕迹)与'加法'(增加具体度、判断浓度、在场感)两条路线,论证减法是注定过期的军备竞赛,而加法对检测器天然免疫,并提出'四层离群'统一框架。

技术 › LLM 李韭二 2026-08-1947.3 KB 122.8K 415 85

提示词越写越长,为什么反而不管用了?

作者从内容创作和小说写作的实践出发,发现把所有约束堆在一条长提示词里反而失效。核心问题是所有限制都放在顶层,AI 每次都要重新判断哪条重要。作者提出将 Prompt 分为三级:快速原型级解决能不能做,开发级解决能不能稳定做,管理级负责调度 CLI、Skill、MCP、脚本、Agent 等执行单元。顶层 Prompt 像经理,只保留目标、路由、验收和异常处理,具体规则下沉到各执行单元自带的说明中。写 Prompt 最关键的能力不是表达,而是组织能力。

技术 › LLM Roland.W 2026-08-1810.5 KB 27.1K 41 74

Own Your Intelligence: 企业自建 AI 能力实战指南

红杉资本团队撰文探讨企业是否应自建 AI 能力而非依赖前沿实验室。开源模型(如 Kimi K3、GLM 5.2)性能逼近前沿,后训练技术栈日益成熟,成本、速度、专有数据与自主掌控成为自建的核心动因。文章给出实践路线图:组建专职团队、公开研究成果,并系统介绍了评估(Evals)、Harness 与上下文工程、后训练(SFT/偏好调优/RL/蒸馏)以及在线学习四个技术步骤,帮助企业在特定领域超越通用前沿模型。

技术 › LLM Sonya Huang 2026-08-1811.2 KB 76.5K 352 79

双向钢人论证:一个帮你挖出最本质答案的深度思考Prompt

作者从推特上一条让AI先深度思考再回答的Prompt出发,追溯其Reddit原帖,学习了"钢人论证"(steelman)这一源自"稻草人谬误"反义的逻辑方法:先替对方把论点补到最强再判断。为克服AI谄媚、结论含糊的问题,作者设计了"双向钢人Prompt",让AI重述真实问题、强化正反双方论证、找出关键变量,并逼出明确判断与行动。作者以公司选择司庆日为例,成功用它找到了内心最真实的答案。

技术 › LLM 数字生命卡兹克 2026-08-1810.4 KB 200.8K 973 72

保姆级教程:DGX Spark 本地跑通 124B 大模型全记录

本文记录了作者在公司配置的英伟达 DGX Spark 桌面级 AI 超算上本地部署大模型的完整过程。文章首先介绍选择 DGX Spark 的原因(数据隐私、成本可控),解析其 GB10 芯片与 128GB 统一内存的硬件配置,讲解稠密模型与 MoE 稀疏模型的区别,最终选定蚂蚁百灵 Ling-3.0-flash(fp4/int4 量化版本)进行部署。作者对比了 Ollama 与 vLLM 的优劣,选择 vLLM 完成部署,并借助 Claude Code 远程操作。最后进行了 MTP 推理加速测速对比,并成功将本地模型对接到 Claude Code 实际使用。

技术 › LLM AI少年 2026-08-1817.4 KB 184.5K 132 82

万字长文:知识库从入门到精通

文章系统讲解知识库的进阶路径:从最轻的文件上传开始,到 iMA、飞书知识问答承接多文件场景,再用 Obsidian 将资料沉淀为个人判断,进而用 LLM Wiki 让 Agent 自动维护知识库,最后进入企业级 RAG 阶段。作者详细介绍了各阶段的关键实践,包括提示词设计、目录结构、切片与检索策略、权限控制、评测方法等,强调知识库的核心是在模型回答前找到可靠材料,并保留来源、暴露冲突、允许拒答。

技术 › LLM Miles Ma 2026-08-1829.6 KB 104.3K 414 87

GEO内容不被DeepSeek、豆包等AI引用和收录的原因分析与解决方案

文章分析了GEO(生成式引擎优化)内容不被AI引用收录的核心原因:AI搜索采用向量语义检索加模型筛选的双层机制,重视信源权威性、信息交叉验证一致性和内容结构化程度。大量AI改写的同质化内容被判定为重复的概率高达83%。解决方案包括人工深度加工保证三成以上新增信息、发布前进行同质化检测、融入企业专属数据和真实案例。作者指出GEO生效周期为15-30天起步,稳定需3-6个月,提醒不要相信7天上首推的承诺,应从铺量思维转向质量思维。

技术 › LLM 熊叔的茅草屋 2026-08-186.0 KB 2.6K 7 68

为什么品味不再只是“看起来够好”

文章探讨AI时代设计品味的意义。作者认为,随着寻找、参考和生成视觉的工具越来越擅长复现“足够好”的审美,平均水平在提升,但视觉池却在趋同。Pinterest等平台将灵感板变成视觉容器,而生成式AI更是加速了“文化→信息流→情绪板→生成”的反馈循环,使参考物本身变成了作品。作者指出,做出好看的东西从未如此容易,但判断品味是否参与其中却更难了。品味不只是识别或复现好审美的能力,更是决定选择、拒绝、重新诠释并回馈什么的标准——今天的创作选择将塑造明天的文化平均水平。

技术 › LLM Yifei Chen 2026-08-1815.1 KB 11.3K 111 63

AI采用的真相:工作流级个人采用为何胜过企业部署

文章指出企业已投入300-400亿美元于AI,但MIT报告显示95%的试点无可衡量的利润影响,而90%以上公司的员工已自发使用AI。作者提出'工作流级采用'概念:采用=模型+个人上下文+一个重复性工作流。借助Ollama、LM Studio在本地运行开源小模型,个人可绕过许可、成本与隐私障碍,通过积累定制上下文让模型深度融入日常工作。相比企业冗长的审批链,个人采用从决定到落地只需一个下午,更具现实性。

技术 › LLM AI Guides 2026-08-1813.7 KB 67K 66 76

大模型本地部署完整指南:用 Ling-3.0-flash 搭建自己的 Agent 工作流

本文是一篇面向新手的本地大模型部署教程。作者在 NVIDIA DGX Spark(GB10 芯片、121.6GB 统一内存)上,使用官方适配的 vLLM 分支部署了蚂蚁百灵开源的 124B MoE 模型 Ling-3.0-flash INT4 版本。文章先科普了模型精度、Dense 与 MoE、推理引擎等概念,再详解下载权重、环境准备、启动服务与验证的完整流程,并开启 MTP 投机解码。性能测试显示 8 并发聚合吞吐达 141.38 tok/s,远超本机 Qwen3.8-27B;随后通过逻辑推理、安全边界、长文本三方向测试验证真实能力,最后介绍用 Python 脚本搭建终端 TUI 聊天界面,逐步走向 Agent 工作流与 Token 自由。

技术 › LLM Lonely 2026-08-1823.9 KB 278.4K 485 81

最强的矛与盾:本地部署大模型到底该买什么

本文对比 NVIDIA DGX Spark 与双 48G 魔改 RTX 4090 两台偏科硬件,测试 Qwen3.8-27B(Dense)与 Ling-3.0-flash(稀疏 MoE)四个组合的推理表现。作者详细讲解 Dense/MoE 区别、显存带宽与算力的关系、投机解码与 MTP 原理,并给出单会话速度、并发吞吐的实测数据。结论是 Spark 适合跑 MoE 或量化模型,双 4090 借助高带宽速度更快,Ling 在并发服务上吞吐约为 Qwen 的 2.4 倍,并给出选购建议。

技术 › LLM 实践哥MinLi 2026-08-1830.4 KB 298.1K 264 89

MiniMax H3的8种新玩法:创意视频生成的低成本探索

本文分享了作者在使用MiniMax H3 AI视频模型后的实践经验,重点介绍了其在广告、电商、游戏和UI设计等商业场景下的8种创新玩法。文章强调了H3在创意表现、转场效果和高性价比方面的优势,适合快速验证创意方向和动效设计。

技术 › LLM 卡尔的AI沃茨 2026-08-178.8 KB 5.2K 10 76