Wiki 知识库

全部文档 / 标签: 并行计算

14 篇
清除

CUDA from zero to hero #1

这是一篇 CUDA 学习系列的第一篇笔记式文章,作者旨在从零基础带领读者掌握 CUDA 编程。文章首先解释 GPU 存在的原因:CPU 擅长串行计算,而矩阵乘法等 AI 核心操作天然可并行,因此 GPU 拥有大量 ALU 以实现高吞吐并行计算。随后介绍了 CPU 与 GPU 的架构差异,以及 GPU 的关键概念:全局内存(VRAM)、流式多处理器(SM)、块、线程和 32 线程的 warp,并指出全局内存到 SM 的数据传输效率极低。最后讲解了 CUDA 的网格-块-线程层级结构,并通过矩阵乘法示例演示如何编写 CUDA kernel。

技术 › 编程语言 Pramod Goyal 2026-09-2612.5 KB 284.4K 1.4K 68

Context Graph Engineering: Kimi K3 如何将 300 个 Agent 融合为第二大脑

文章介绍 Kimi K3 的 Agent Swarm 功能:编排器无需预定义角色,即可动态拆分任务并并行调度约 300 个子代理、协调约 4000 个步骤。作者将其结果整合机制称为"上下文图"(context graph),强调系统通过强化学习训练拆分判断能力,而非硬编码规则。适合宽而重复的任务(如多源信息收集、批量比对),不适合单一深度任务,且成本较高。

技术 › Agent Morty 2026-08-2510.0 KB 130.8K 81 68

Graph Engineering: Stop Chaining Your Agents

本文批判了多步骤AI代理中常见的线性链式结构,指出其低效且易出错。作者提出用图结构(节点和边)来设计代理工作流,并给出了14步路线图,涵盖节点契约、数据边、并行扇出、汇聚、条件路由、验证器、错误隔离、循环收敛、模型分层、成本优化等实践。核心思想是利用Claude Code的动态工作流功能,通过JavaScript脚本编排子代理,实现高效、可扩展的代理系统。

技术 › Agent seeco 2026-08-1523.4 KB 2.3M 602 84

Graph Engineering: Stop Chaining Your Agents

本文批判了多步骤AI代理中常见的线性链式结构,指出其效率低下且易出错。作者提出用图结构(Graph)来组织代理工作流,其中节点代表有界任务,边代表数据依赖。文章详细介绍了14步路线图,包括为节点和边定义契约、使用parallel()进行扇出、设置屏障进行扇入、运行时路由、添加验证器、隔离故障、设计收敛循环、按层分配模型以及利用Claude Code动态工作流工具自动生成图。核心思想是识别并消除虚假依赖,将线性脚本重构为并行图,以提升性能、可靠性和成本效率。

技术 › LLM seeco 2026-08-1523.4 KB 82

How a GPU Actually Works

本文从硬件原理出发,解释了GPU为何在运行大模型时算力利用率低的现象。核心在于计算与内存带宽之间的不对称:算术操作便宜,而数据搬运昂贵。GPU通过大量简单计算单元和线程级并行来掩盖内存延迟,但受限于内存带宽,导致实际token生成速度远低于理论算力。文章还介绍了warp、分支分歧、内存延迟隐藏等概念,并指出性能优化技巧(如量化、投机解码、连续批处理)的本质是减少数据移动。

技术 › LLM Akshay 2026-08-1430.0 KB 853.2K 943 73

Context Graph Engineering With K3: Turning 300 Agents Into One Connected Knowledge Base

本文介绍了Kimi Agent Swarm如何通过上下文图(Context Graph)将300个并行代理的研究结果整合为单一知识库。文章指出,传统并行代理产生的是分散的答案堆,而Kimi通过将每个实体作为节点、关系作为边,构建可查询、可扩展的图结构,使研究者能发现隐藏联系、提出新问题,并实现知识的持续积累。

技术 › Agent Ricker 2026-08-128.6 KB 838.7K 384 68

图工程:如何构建可扩展的AI Agent系统

本文介绍了“图工程(Graph Engineering)”在构建大规模AI Agent系统中的应用。传统线性工作流容易导致延迟和混乱,而图工程将工作流转化为节点、边界和状态的显式执行图。文章提出了七大核心实践:切断非必要依赖实现并行化、为节点设定明确契约、将边界视为数据契约、掌握链/菱形/路由器/受控循环四种基础图结构、合理展开合并独立任务、实现可检查的路由机制,以及在边界处部署验证节点。通过结合概率性模型判断与确定性代码控制,能有效提升Agent系统的稳定性、效率与安全性。

技术 › Agent rari 2026-08-1018.8 KB 4.2M 1.1K 82

图工程:构建多智能体系统的完全指南

构建多智能体系统的核心挑战不在于提升单个智能体的能力,而在于如何协调工作流,这被称为“图工程”。文章指出,应将系统视为依赖图,区分真实依赖与虚假顺序,并引入结构化状态。同时强调要控制并行宽度以优化成本,关注关键路径以降低延迟。此外,建议在最终推理前使用代码进行确定性的数据压缩与归约,并采用非对称验证机制,从而打造高效、易调试的AI系统。

技术 › Agent Lunar 2026-08-0917.8 KB 2M 571 88

Graph Engineering explained: what it is, when to use it and when not to

文章介绍了图工程的概念及其在AI工作流优化中的应用。图是由节点和边组成的计划,通过识别和消除伪依赖,可以显著提高工作流的并行性和效率。文章重点介绍了“钻石模式”,即扇出、归约和合成的模式,这是提升AI系统性能的关键技巧。

技术 › Agent Anatoli Kopadze 2026-07-2524.1 KB 12.6M 3.9K

Kimi K2.6 Agent Swarm 深度解析

文章详细介绍了 Moonshot AI 推出的 Kimi K2.6 模型及其核心功能 Agent Swarm。该技术支持每轮运行 300 个并行子代理,将单一文本指令转化为完整的项目交付物(如文献综述、数据集、代码和网页)。文章通过对比“聊天”与“群组”两种心智模型,展示了该技术在学术研究、可视化生成、LaTeX 排版、批量网页开发及大规模代码重构六大场景中的绝对优势,并提供了在单一代理与群组代理之间进行选择的决策指南。

技术 › Agent shmidt 2026-05-2612.2 KB 138K 168 85

Sub-Agents vs Agent Teams: 改变一切的架构决策

文章深入探讨了在构建复杂 AI 系统时,如何在“子代理”和“代理团队”两种架构模式之间做出正确选择。作者指出,大多数系统错误的按角色(如规划员、开发员)拆分,导致上下文丢失;正确的做法应是基于上下文边界进行拆分。Sub-agents 适用于独立的、需要隔离和并行处理的任务,专注于执行;而 Agent Teams 适用于需要深度协作、上下文共享和实时协调的复杂依赖任务。文章还总结了提示链、路由、并行化等 5 种核心设计模式,并强调了从简单开始、按需增加复杂度的原则。

技术 › Agent Nainsi Dwivedi 2026-04-305.4 KB 70.6K 670 74