Wiki 知识库

全部文档 / 标签: 基础设施

42 篇
清除

10月25日我生日:从实验室到 LayerFS 的开源创业之路

作者在生日之际回顾过去一年的经历:从加拿大到新加坡再到中国,从实习生到代理 CEO,再到创业未果后投身开源。他坚信 AI 时代的基础设施应围绕 agent 重新设计,尝试申请创业营但因对国内 VC 模式失望而放弃融资,转而 all in 研发 Ephemeral Sandbox。在田老师等人的帮助下,项目转向 FUSE 技术路线并演化为 LayerFS,于四天前发布 v1.0.0。尽管面对 90% 的质疑,他决心把这一底层基础设施项目长期做下去。

技术 › Agent Yifan Xu (@yifanxu_ephai) 2026-10-266.9 KB 51

How to Build the Most Powerful AI Trading System (Hedge Fund Infrastructure)

文章阐述了如何构建对冲基金级别的 AI 交易系统。作者指出,AI 模型本身不是瓶颈,缺乏基础设施才是关键:散户 AI 缺少数据、算力和交易执行三大层。数据层需避免幸存者偏差和前视偏差;算力层需要集群化回测;交易层需全天候执行。通过 MCP 协议,可将 Claude、ChatGPT 等 AI 接入 QuantGPT 终端,获得机构级数据仓库、云端研究算力和实盘交易能力,以远低于 Bloomberg 终端(约 3 万美元/年)的成本(49-149 美元/月)构建完整 AI 交易系统。

投资 › 量化交易 Roan 2026-10-1720.3 KB 1.1M 970 64

Web3最赚钱的地方,大家都嫌麻烦

文章通过一个年轻人从炒币亏损到转做钱包对账与风控的经历,指出Web3真正长期的商业机会不在资产价格投机,而在合规、对账、托管、风控和用户支持等'麻烦事'中。作者引用BIS研究说明链上交易量存在幻觉,分析了身份权限、对账、风控、托管和规则变化五类价值所在,并为普通人提供了数据研究、企业对账、安全权限、开发者工具、合规教育五条入行路径,以及30天服务验证法和项目收入六栏拆解等实用方法论,强调'价格让人兴奋,流程才会让钱留下来'。

投资 › 加密货币 Stanley 2026-10-0820.5 KB 2.5K 1 86

Andrej Karpathy 与 GPT 七年演进:理解 Transformer 与 LLM 架构

文章回顾 Andrej Karpathy 在 OpenAI 七年间见证 GPT 从 1.17 亿参数增长到万亿参数的历程,强调 Transformer 是近 50 年计算领域最重要的架构。内容深入浅出地讲解 LLM 内部机制:文本被切分为 token 并映射为高维嵌入向量,模型通过注意力机制(Q、K、V 矩阵)学习上下文语义;Kaplan 提出的缩放定律证明性能随参数规模可预测提升;大模型还涌现出上下文学习、思维链推理等未显式编程的能力。作者指出 LLM 不是工具而是基础设施,真正赚钱的是理解底层架构并在此基础上构建的人。

技术 › LLM Deliriumm (@0xDeliriumm) 2026-10-043.0 KB 55

DeepSeek 开源 dsh-libreoffice-kit:给 AI 配上「看文档的眼睛」

DeepSeek 悄悄开源了 dsh-libreoffice-kit 组件,原本隐藏在 DeepSeek Harness 中。该组件解决了 AI 生成文档却看不到排版效果的痛点:可将 Word、PPT 渲染成图片让 AI 查看排版,真实计算 Excel 公式以核对结果,自带字体管理避免中文乱版,并支持文件级隔离处理防止单点故障。这使 AI 能够自己写、自己看、自己改文档,无需人工逐页返工。文章指出 AI 办公领域的竞争不只在于模型能力,底层基础设施同样关键。

技术 › LLM 程序员鱼皮 2026-10-011.1 KB 66

DeepSeek 弹性计算(DSec):面向大规模智能体训练的多后端弹性沙箱基础设施

本文解读 DeepSeek-AI 与清华大学合著的 DSec 论文,这是支撑 DeepSeek V3.2 到 V4.1 智能体 RL 训练的生产级沙箱基础设施。文章分析了智能体训练负载的七大特性(突发创建、CPU 稀疏、有状态长寿命、高度异构等),介绍了其无状态控制面、分层代理数据面架构,以及可组合环境分层、高密度内存管理、QoS 感知 CPU 调度、按需镜像加载四大核心机制。还深入阐述了 agent loop 与训练解耦、暂停恢复协同、防 reward hacking 的安全对抗实践。作者认为这标志着智能体能力竞赛正在演变为基础设施竞赛。

技术 › Agent meng shao 2026-09-2812.9 KB 4.8K 11 83

智谱用 GLM-5.3 自己优化了自己的推理系统

智谱披露 GLM-5.3-Flash 的全部生产推理已运行在超 10 万块国产 AI 加速器上,从跑通到上线不到两周,端到端吞吐量提升 3.2 倍,大量优化工作由 GLM-5.3 驱动的智能体完成。核心经验在于'密集反馈'机制:将资深工程师的隐性过程奖励显性化为分层验证接口,让智能体自主定位并修复精度漂移、GIL 并发瓶颈、重复计算等真实工程问题。国产芯片单 token 成本已对标英伟达 GPU。唐杰指出目标设定与高风险审查仍由人负责,但最小递归自我改进闭环已存在。

技术 › LLM 宝玉 (@dotey) 2026-09-174.2 KB 84

How we built Hermes to support our entire team

Artie 团队(17人)分享了如何将 Hermes——NousResearch 的开源 AI agent harness——部署为全团队共享的 AI 助手。文章讲述了从工程师个人 WhatsApp 使用的起步,到选择 Hermes 而非 OpenClaw 并加入护栏的决策;用每年 60 美元的 Hetzner 物理服务器承载全部运行。团队为每个部门设计了独立 profile:工程(Plan 分派任务、Code 执行开 PR)、销售、设计、BizOps 等,并强调人类始终在环节中审核。Skills 以代码形式版本化进 Git 仓库,严控数量以省 token。受人类 REM 睡眠启发,Hermes 每晚'做梦'复盘当日工作,将有价值内容晋升到长期记忆。

技术 › Hermes Jacqueline Cheong 2026-09-1711.3 KB 208.7K 1K 84

Why I open-sourced my software factory

作者维护开源软件工厂 OpenInspect,解释为何开源而非商业化销售。他认为软件工厂是将信号(issue、Slack 消息等)转化为成果(PR、修复、答案)的 AI Agent 基础设施。将其作为产品出售困难重重:沙箱和模型推理等核心组件已被商品化,各组织需求差异大。真正的价值在于组织流程——代理路由、知识分发、系统改进、成本优化和 Token 支出的 ROI 归因,这些都需要与公司组织结构深度匹配。作者曾为 10 到 500 人规模的团队部署此类系统,认为软件工厂会成为关键基础设施,应由企业自持,因此选择开源以让团队专注于组织层面的问题。

技术 › Agent cole murray 2026-09-128.1 KB 302.5K 1.2K 67

OpenAI发布Agents API:Agent Harness成为基础设施

OpenAI正式发布Agents API,将Codex背后的Agent Harness能力以API形式开放。开发者只需定义任务、模型、工具和执行环境,Agent Loop、上下文管理、工具调用、多Agent协作和沙箱等均可交由OpenAI处理。该API支持长任务自动压缩恢复、原生MCP与Web Search、Sub-Agent并行、Linux Sandbox及私有环境接入。作者认为这标志着模型正从产品变为组件,Harness等通用能力正被云厂商基础设施化,Agent创业需向业务、数据和Workflow上移。

技术 › Agent Max For AI (@MaxForAI) 2026-09-112.2 KB 70

The software factory stack

本文由 Zach Lloyd 撰写,详细介绍了 Warp Factories 的软件工厂基础设施栈设计。该栈基于开放、可组合、代码定义的原则,分为五层:Factories-as-code(工厂即代码)、Data and context(数据与上下文)、Compute(计算)、Inference(推理)和 Improvement(改进)。文章逐层阐述了各层的核心组件与设计理念,强调版本化、可测试、可回滚的工厂定义,以及支持多模型、多代理、自托管和持续改进的基础设施,旨在帮助团队向工厂模式转型。

技术 › DevOps Zach Lloyd 2026-09-1013.4 KB 35.8K 351 79

FDE 的前世今生:每一代基础设施,都会发一次「最后一公里」的财

文章回顾了 FDE(前线部署工程师)岗位的兴起,提出核心观点:每当新基础设施把某一环节成本打到趋近于零,相邻环节就会裂开一条责任真空的缝隙,率先站上去的人会从「打杂的」成长为值钱的岗位。作者以 ERP 实施顾问、SRE、互联网运营为历史样本,论证 FDE 正是 AI 把「做出来」变便宜后撕开的最后一公里。文章还分析了中国企业的「先干后认」路径及其在需求、计价、组织上的独特约束,并指出岗位动荡期与稳定期的不同价值规律。

职场 › 职业发展 Wattter 2026-09-0527.8 KB 44.9K 48 84

小白也能申请,赛博菩萨 Cloudflare 1 万美元创业额度完整教程

本文详细介绍了 Cloudflare for Startups 计划中面向一人公司和早期团队的 1 万美元创业额度。作者首先说明该额度的适用条件:成立不超过 10 年、融资低于 100 万美元的公司均可申请,无需孵化器背书。随后分析额度价值,涵盖 Workers、D1、R2、Stream、Workers AI 等服务,可支撑约 55TB 存储或 1000 万分钟视频播放。文章列出申请前需准备的产品官网、域名邮箱、公开账号等五项材料,并逐步讲解四页申请表的填写方法,最后提醒额度有效期一年、部分产品有抵扣上限等五项注意事项。

技术 › DevOps Ray Wang 2026-09-0512.2 KB 42.7K 231 84

AI 落地的底层必要条件:Palantir Rubix 容器能力讲解

本文是 AI FDE 能力入门系列的一部分,讲解 AI 落地的底层必要条件——容器能力。文章深入剖析 Palantir 的 Rubix:一个运行 AIP、Foundry 和 Apollo 的强化版 Kubernetes 实现。重点介绍了其安全特性(工作负载隔离、强制加密、认证授权)、高可用设计(节点 48 小时生命周期主动轮换、故障切换)、作为统一服务底座支持多云部署,以及与 Apollo 协作实现零停机升级的 Day 2 运维能力(蓝绿发布、逐步导流)。Rubix 将安全、临时性、高可用和自治运维固化为基础设施默认行为,支撑'一次编写、随处交付'。

技术 › DevOps Mens@cc.codesome.ai 2026-09-033.5 KB 1.9K 10 53

普通人为数据中心辩护

作者以非技术背景的普通人视角,阐述数据中心对美国再工业化的重要性。作为a16z American Dynamism团队的参与者,他指出机器人制造、AI训练和模拟测试都依赖数据中心的算力支持。文章进一步论证数据中心将同时解决三个相互关联的问题:制造业空心化、高等教育泡沫化以及美国男性的孤独危机。作者以Hadrian公司为例,说明自动化不仅没有抢走工作,反而让工厂能建在美国本土,创造了数百个高薪岗位,为年轻人提供了用双手劳动、获得归属感的就业选择。

技术 › 数据中心 Danny Penny 2026-08-3113.1 KB 1.7M 7.5K 51

一文弄懂Agent Harness 与 Agent Runtime的区别

本文系统对比了 AI 智能体两大组成层面:Agent Harness 与 Agent Runtime。Harness 是位于 LLM 之上的应用逻辑层,负责执行循环、提示拼装、上下文管理、工具调用、状态跟踪与错误处理,决定智能体“想什么、怎么做”;Runtime 是承载执行的基础设施层,负责沙箱隔离、资源限制、网络与凭证管控、持久化与并发调度,决定“在哪、如何安全执行”。文章从定义、职责、生命周期、接口、资源管理、安全隔离、可扩展性、可观察性、部署模型、性能、故障恢复和典型用例等方面逐一比较,并给出示例代码与部署模式总结,帮助读者全面理解并实践二者设计。

技术 › Agent Smartpig 2026-08-3019.7 KB 24.5K 140 74

GLM 5.3: Scaling with Post-training, Intuitively Explained

文章解析了 GLM-5.3 如何在不重新预训练的情况下,仅通过规模化后训练(RL)超越 GLM-5.2,印证了 Sutton 的苦涩教训。重点包括:一是面向真实专家工作的环境设计,用研究代理生成长时程任务,配合严格的验证器三重检查防止 reward hacking;二是沿用 GLM-5.2 的 MoE 架构(744B 总参、~40B 激活),采用 MLA 压缩 KV cache、DeepSeek 稀疏注意力降低长上下文成本、MTP 投机解码平均每次接受约 4.5 个 token,以及 IndexShare 在相邻层共享索引实现 2.9 倍 FLOPs 节省;三是 SAO 算法与 slime 基础设施,将低廉的 rollout 转化为稳定的大规模后训练。

技术 › LLM Alex Ker 2026-08-2913.2 KB 103.9K 410 77

AI 半导体终局 2026(三)

文章探讨 AI 基础设施建设的长期逻辑:与互联网时代单一维度的用户渗透不同,AI 硬件需求由用户渗透率与人均 token 用量两个指数增长维度相乘驱动,形成历史上罕见的「双 S 曲线接力」,支撑更长的半导体超级周期。同时指出,由于推理的高边际成本,AI 时代商业模式已从「流量×转化率」转向「每 token 毛利」。文章还分析编码(广义)作为下一个 ARR 增长引擎的潜力:大量非编码任务(财务、法务、销售等)正被转化为编码代理执行结构,OpenAI Codex 在非工程岗位的周活用户暴涨即为例证。

投资 › 宏观经济 fin 2026-08-2826.6 KB 975.7K 2.5K 80

k8e-sandbox:基于 k8s 的个人开发者 Agent 沙盒服务实践

作者介绍了其开源项目 k8e-sandbox 的沙盒服务实现。该沙盒基于 k8s 分布式架构,目标场景是一台笔记本跑 agent harness、一台远程服务器跑沙盒。文中详细演示了在 AWS 2C/2G 低配机器上一键安装 k8e、配置域名与 EIP、创建 API key、通过 k8e-sandbox-cli 与 DeepSeek Harness(DSH)联通,并在沙盒内运行网页并通过 Gateway/HTTPRoute 对外暴露 URL 的完整流程。沙盒内置 gvisor 实现用户态内核隔离,安全性接近 KVM 虚拟机。作者认为 agent infra 仍有大量工作要做,希望个人开发者拥有自己的工具箱。

技术 › Harness Engineering Tommy Xiao 2026-08-268.7 KB 1.1K 4 72

Φ-Bench 深度评测:大模型距离 AI 工程师还有多远

本文介绍 Φ-Bench(Frontier AI Infrastructure Benchmark),一个评估 LLM 基础设施工程能力的基准。它从顶会论文和开源仓库中筛选出 85 个真实高难度任务,分为 Kernel 补全(KFC)、长周期实现(LHI)和端到端优化(E2EO)三类。评测结果显示 Claude Opus 5 以 36.53 分领先,但所有模型在理解大型代码库和硬件相关优化上仍明显不足。分析指出优秀模型需具备假设验证、实验设计和可靠归因能力,Φ-Bench 探索了 AI 自我改进能力向基础设施层延伸的可能性。

技术 › LLM 青稞社区 2026-08-249.6 KB 1.5K 10 66

OpenRouter & Stripe: The Intelligence Network

本文由a16z合伙人Martin Casado撰写,宣布Stripe收购OpenRouter,并阐述其战略意义。文章提出“Token是新美元”的观点,认为Token已成为AI时代新的价值交换媒介,而OpenRouter作为模型路由和清算层,与Stripe在支付领域的角色类似,共同构成AI经济的基础设施。作者回顾了OpenRouter的创业历程,强调其从小规模聚合到大规模基础设施的演进,并看好合并后的发展前景。

投资 › 宏观经济 martin_casado 2026-08-208.6 KB 240.7K 524 62

从Web3到AI:提前下注的人凭什么赢

Stripe以超70亿美元收购OpenRouter,创始人Alex Atallah曾在OpenSea创造类似战绩。本文分析了从Web3迁移到AI的一批人的共同特质:对基础设施缺口、新入口和共识形成前机会的敏感度。包括Crypto.com买下AI.com抢Agent入口、Stable Diffusion打破闭源护城河、FTX Future Fund人才流向Anthropic等案例。但Aschenbrenner的基金爆仓证明:看对技术方向与赚到钱是两回事,判断力决定方向,杠杆管理才决定输赢。

投资 › 加密货币 疯狂的烤妹儿 2026-08-189.5 KB 78

NVIDIA AI工厂计算正成为可投资资产类别

NVIDIA宣布与Apollo、BlackRock、Blackstone、Brookfield、Goldman Sachs和KKR等机构合作,建立独立融资平台,旨在动员超过5000亿美元的第三方资本,用于支持AI基础设施的建设。这标志着AI从研究转向生产,AI工厂成为可融资的生产性基础设施。NVIDIA的AI工厂平台具备灵活性、可互换性和软件升级能力,其经济价值随时间增长,如A100芯片在发布六年后仍在使用。这些特性使AI工厂成为可投资的基础设施资产。NVIDIA将提供平台,金融机构独立评估项目并融资,NVIDIA可能提供最高25%的残值支持。此举旨在解决AI基础设施融资不均的问题,开启AI基础设施的公开资本市场。

投资 › 宏观经济 Jensen Huang 2026-08-118.2 KB 6.4M 14.6K 71

Jeff Dean 离开 Google:从 MapReduce 到 Discovery Loop,他如何把规模变成基础设施

Google 首席科学家 Jeff Dean 宣布离职,结束 27 年职业生涯。他将与 Sanjay Ghemawat 等人创办 Discovery Loop,致力于自动化科学与工程发现。文章回顾了 Dean 从构建分布式系统、MapReduce、Bigtable 到引领 Google Brain 和 TensorFlow 的历程,阐述了他如何将底层复杂性封装成基础设施,并试图将这种规模思维带入自动化发现领域。

技术 › LLM Mr Panda 2026-08-0618.4 KB 3.5K 1

没人能规划 Infra 的未来:TiDB AI 演化之旅

文章讲述了 TiDB 从传统分布式数据库演变为面向 AI Agent 的统一存储层的过程。作者通过回顾从解决 MySQL 分库分表问题,到支持百万级数据库、文件系统、Agent Runtime Workspace,再到构建 Agent Stack 的六个阶段,阐述了基础设施产品如何被客户实际需求而非顶层设计推动演化,最终成为 AI 应用背后的关键基础设施。

技术 › 数据库 siddontang 2026-07-1515.2 KB 8.1K 50

你是大模型的受益方,还是被吞掉方?AI应用的护城河与机会 ft. TiDB 唐刘

文章探讨了 AI Agent 时代数据库角色的演变。TiDB 唐刘指出,虽然 AI 压缩了中间层软件,但数据库作为 Agent 的“统一存储层”和“单一事实源”,其重要性不降反升。文章详细梳理了从存海量数据、租户隔离、Agent 自主管理到文件与 Workspace 托管的六大产品演化阶段,并讨论了 FDE 角色在 AI 时代的回归,以及判断 AI 产品护城河的核心逻辑:是模型进步的受益方,还是将被吞掉的一层。

技术 › 后端 Star@Day1Global Podcast 2026-07-1319.4 KB 10.7K 12

2026年强化学习面试题库:算法与基础设施

本文汇总了35道2026年强化学习(RL)领域的面试核心问题。内容涵盖算法与基础设施两大方向,既包括PPO、GRPO等训练机制的原理探讨,也涉及分布式推理、显存优化等工程落地细节。作者强调现代RL岗位需要具备全栈理解能力,建议面试者不仅要熟记问题,更需深究背后的技术逻辑。

技术 › LLM Xiuyu Li 2026-06-085.6 KB 381.8K 2K