All about scaling systems and infra
本文探讨了系统扩展的实战经验,涵盖了从服务器扩展、无服务器架构到Redis缓存的应用。重点讨论了算法设计、消息系统(如Kafka)、数据存储选择及分片策略。作者强调区分性能调优与扩展问题,并推荐学习分布式计算基础。
本文探讨了系统扩展的实战经验,涵盖了从服务器扩展、无服务器架构到Redis缓存的应用。重点讨论了算法设计、消息系统(如Kafka)、数据存储选择及分片策略。作者强调区分性能调优与扩展问题,并推荐学习分布式计算基础。
文章涵盖了系统扩展、Serverless、Redis、算法设计、存储及负载均衡等多个技术要点,时效性极强(昨日发布),但内容偏向概念罗列和概览,缺乏具体的代码示例和深入的落地细节,部分表述略显口语化且存在事实勘误(如Galera集群的写扩展描述)。
本文是System Design Essentials系列的第三部分也是最后一部分,聚焦系统设计中的优化技术。文章详细介绍了缓存概念、缓存命中与失效,以及五种缓存策略:Cache Aside、Read Through、Write Through、Write Around和Write Back。此外还讲解了幂等性、幂等键、去重机制及其在分布式系统中的重要性,并分析了分布式系统的优势与挑战(一致性、可用性、容错性、延迟),最后深入解释了一致性哈希的原理及其在服务器扩缩容时减少请求重映射的作用。
文章以面包店从街角小店成长到全国连锁的故事为比喻,系统讲解网站如何应对用户增长与稳定性挑战。从单体架构(一台烤箱)讲到垂直扩展、数据库索引、N+1 查询优化、缓存与缓存失效、水平扩展、负载均衡与自动扩缩容,再延伸到 Docker 容器化、CI/CD、可观测性、读写分离、微服务拆分、CDN 内容分发,以及限流、队列与异步处理等高并发应对手段。用通俗类比帮助零基础读者理解前后端、数据库、缓存等核心概念,掌握系统扩容与稳定性的基本方法论。
本文是系统设计基础三部曲系列的第一篇,介绍了软件系统设计中的核心构建模块,包括客户端-服务器架构(二层与三层架构)、垂直扩展与水平扩展的区别、数据库基础及CRUD操作、ACID与BASE两种事务模型、CAP定理及其在分布式系统中的权衡、关系型数据库(SQL)与非关系型数据库(NoSQL)的特点与适用场景,以及数据库主从复制的读写分离模式。每个概念都配有简明解释、图示、解决的问题及背后的权衡,适合系统设计入门学习和面试准备。
本文探讨了AI与非AI应用中的延迟优化模式。作者指出延迟是指从用户操作到首个有用结果出现的时间,用户感知的是完整关键路径而非单个组件。文章将延迟优化归纳为四大类共19种模式:一是本地化,包括同置、复制、分区和缓存;二是减少工作量,包括算法优化、选择性数据处理、初始化复用、请求合并和运行时调优;三是并发执行,包括避免同步、独立并发、渐进式响应、并发预算和对冲请求;四是预测性优化,提前处理可预测的工作。这些模式既适用于传统应用,也适用于涉及LLM调用、MCP服务器和Agent协调的现代AI应用路径。
本期早报围绕推理计算的经济与工程展开。YC Paper Club 分享拆解推理请求生命周期,涵盖路由、缓存、分词调度、编译优化与服务质量监测,强调训练之后的服务开销巨大且需要系统性优化;Amazon CEO Andy Jassy 访谈解释了 2026 年 2200 亿美元资本开支背后的建设周期、现金流压力与企业 AI 应用的杠铃格局,指出推理降价将打开更多采用场景;Naveen Rao 则从能源效率视角讨论模型、硬件协同设计,预测推理可能成为 10 万亿美元市场,并探讨规格定义与验证在 AI 自动化交付中的关键作用。速览部分还涉及模型越界安全评估、桥水知识库建设和 AI 个人助理产品竞争。
本文介绍了 Comma 的分布式 Agent 框架 Salix 中的 Loop 机制:由 Agent 自己编写的小型 C 程序,编译为 eBPF 后在集群中 7x24 持续运行,充当外层事件循环,负责廉价地过滤和监控海量事件,仅在值得关注的情形下唤醒昂贵的内层模型 Agent 循环。文章阐述了为何选择 eBPF(内存占用小、可安全运行不可信代码、等待近乎零成本),并介绍了底层用户态 eBPF 运行时 Spinfoam:基于 async-ebpf,协程式异步、完全抢占式调度,并通过 Lean 形式化证明保证内存安全。实测 10,000 个监控 Loop 单线程运行,每个仅占约 64KB 内存。
文章介绍了一个将 X 上碎片化公开账号整理成可搜索、可筛选、可归档数据库的索引网站,指出其真正价值不在内容本身,而在于摆脱算法投喂、实现结构化信息管理。作者详细讲解了高效使用方法:三轮搜索、随机探索、按粉丝量分层筛选、用 X List 分类管理账号(A/B/C/D 分级),并提醒避免批量关注触发风控,注意账号安全,不向第三方站点交出凭据。最后提出这套'把公开信息数据库化'的方法可复用到 AI、Crypto、独立开发者等领域,并给出用 Notion/Excel 搭建个人信息库的最小可行方案。
本期早报围绕智能体(Agent)实践展开三篇精讲:一是 Parallel 创始人、前 Twitter CEO Parag Agrawal 谈智能体搜索基础设施、检索与模型计算的协调成本、内容补偿机制与事件驱动的监测入口;二是 Erina Karati 以 Supercell 游戏智能体为例,阐述长时程智能体需要通过可控场景、完整轨迹记录与多维评分进行自动化实验,而非仅靠提示词;三是 Roland Gavrilescu 提出把工作、验证与反馈循环视为产品本身,通过可版本化的智能体 recipe 实现持续迭代。速览部分涵盖 Claude 计算物理振幅、Skydio 多机自主飞行、Perplexity 自研数据库、GEPA 反思优化、GPU 自动化研究等内容。
本文是 zx_loro 在 local-first 线上会议分享的文字版(上篇)。作者团队从 CRDT 库 Loro 出发构建了 local-first 团队 AI agent 控制面 Lody,并在实践中总结出'CRDTs are not enough'的观点。文章介绍了本地优先软件的理念(秒开、离线可用、多端协作、数据归用户所有),指出统一同步引擎应吸纳请求失败、权限管理、持久化等必要复杂度,并分析了 CRDT 库(Loro、Yjs、Automerge)只覆盖纯计算而不涉及网络与持久化的局限。作者分享了团队自研新 CRDT Flock 实现目录级 metadata 同步,以及在浏览器本地存储、全文搜索、端到端加密等方面的实践经验。
文章基于一位 IT 技术员十年维修 400 多台笔记本的经验,指出电脑变慢的根源不是硬件老化,而是一系列被忽视的系统设置。作者逐一拆解了 9 个免费设置优化:关闭 Windows Update 传递优化、禁用不必要的开机启动程序、排除搜索索引文件夹、禁用 SysMain 服务、关闭后台应用刷新、调整为最佳性能视觉效果、暂停云同步校验、清理挂起浏览器标签页与扩展,以及按需暂停更新和安排夜间重启。只需约 8 分钟的设置调整,花费为零,就能让一台'变慢'的笔记本恢复如新,避免不必要的换机开支。