我们如何构建自动化的 LLM 训练基础设施
文章详细介绍了作者团队构建端到端 LLM 训练平台(Catalyst)的技术历程。通过解决数据标准化、超参数自动配置、多 GPU 提供商调度及无服务器环境下的长时训练恢复等挑战,实现了用户一键微调模型的愿景。
文章详细介绍了作者团队构建端到端 LLM 训练平台(Catalyst)的技术历程。通过解决数据标准化、超参数自动配置、多 GPU 提供商调度及无服务器环境下的长时训练恢复等挑战,实现了用户一键微调模型的愿景。
文章详细分享了构建自动化LLM训练平台的数据预处理、超参动态配置、多源算力调度和运行时设计等极具实操价值的工程细节,逻辑清晰且非常契合当下时间点,但底层架构观点多属业界常规最佳实践而非颠覆性创新。
本文由 Zach Lloyd 撰写,详细介绍了 Warp Factories 的软件工厂基础设施栈设计。该栈基于开放、可组合、代码定义的原则,分为五层:Factories-as-code(工厂即代码)、Data and context(数据与上下文)、Compute(计算)、Inference(推理)和 Improvement(改进)。文章逐层阐述了各层的核心组件与设计理念,强调版本化、可测试、可回滚的工厂定义,以及支持多模型、多代理、自托管和持续改进的基础设施,旨在帮助团队向工厂模式转型。
本文是 AI FDE 能力入门系列的一部分,讲解 AI 落地的底层必要条件——容器能力。文章深入剖析 Palantir 的 Rubix:一个运行 AIP、Foundry 和 Apollo 的强化版 Kubernetes 实现。重点介绍了其安全特性(工作负载隔离、强制加密、认证授权)、高可用设计(节点 48 小时生命周期主动轮换、故障切换)、作为统一服务底座支持多云部署,以及与 Apollo 协作实现零停机升级的 Day 2 运维能力(蓝绿发布、逐步导流)。Rubix 将安全、临时性、高可用和自治运维固化为基础设施默认行为,支撑'一次编写、随处交付'。
文章系统介绍了“Harness”的概念,即围绕 AI 模型管理工具执行、内存、状态和错误恢复的软件基础设施。通过对比 CPU 与 OS 的关系,阐述了 Harness 如何决定模型能力的边界。文章详细拆解了 Harness 的五大核心组件(上下文、工具权限、验证、记忆状态、安全沙箱),并分享了 Anthropic 和 OpenAI 的工程实践案例。
Anthropic 分享了使用 Claude Code 进行大规模代码迁移的经验,包括将 Bun 从 Zig 迁移到 Rust(两周完成百万行代码)以及 Python 到 TypeScript 的迁移。文章介绍了六步迁移流程,强调建立强大的“评判者”系统、制定规则书和依赖映射,并说明 AI 如何通过并行处理和自动化验证改变了代码迁移的可行性。
本文介绍了如何利用 Fireworks Agent 实现 LLM 微调(SFT)的全自动化。文章以 Andrej Karpathy 的“个人 LLM Wiki”理念为引,阐述了将知识注入模型权重比单纯依赖上下文窗口更高效。通过 Fireworks Agent,作者展示了从数据集检查、超参数搜索、模型训练到部署推理的完整闭环,无需人工干预繁琐步骤,仅需少量 GPU 时间和极低成本,即可训练出具有特定输出风格(如 Wiki 摘要风格)的模型,为构建自我进化的 Agent 铺平了道路。
本文旨在探讨如何像管理代码一样管理 Claude Code 的配置目录 .claude/。文章首先指出了混乱的目录结构会随着项目增长导致维护困难,随后提出了一套包含 CLAUDE.md、settings.json、rules/、hooks/、commands/、skills/ 和 agents/ 的标准化目录蓝图。接着,文章详细阐述了核心原则,包括顶层设计的轻重分离、规则模块化、自动化脚本与复用工作流的区别,以及团队与个人配置的边界。最后提供了从简单到复杂的渐进式成长路径,帮助开发者构建可预测、可维护且易于团队协作的 AI 辅助开发环境。