PagedAttention & RadixAttention
本文深入探讨了 PagedAttention 和 RadixAttention 两种技术。PagedAttention 通过类似操作系统的分页机制管理 GPU 内存,解决 KV Cache 的内部和外部碎片问题,显著提升并发处理能力。RadixAttention 则利用基数树索引缓存的前缀状态,实现跨请求的计算和内存复用,进一步优化推理性能。
本文深入探讨了 PagedAttention 和 RadixAttention 两种技术。PagedAttention 通过类似操作系统的分页机制管理 GPU 内存,解决 KV Cache 的内部和外部碎片问题,显著提升并发处理能力。RadixAttention 则利用基数树索引缓存的前缀状态,实现跨请求的计算和内存复用,进一步优化推理性能。
Replit通过引入AI代理实现了公司运营模式的变革。工程师代码输出增长近三倍,代码审查时间保持稳定,质量指标提升。代理系统处理生产事故、代码审查、数据分析等任务,形成自动驾驶公司。员工专注于战略决策,AI执行具体步骤,显著提升生产力和效率。
文章通过回测 2000 至 2026 年数据,探讨了长期定投纳斯达克的最优策略。结果显示,单纯定投 QQQ 收益平庸(年化 19%),而裸定投 3 倍杠杆 TQQQ 虽收益极高但回撤达 −84%,人性难承。作者利用 AI 构建了一套基于 CAPE、回撤和 VIX 的动态仓位管理策略,在年化 34% 的收益水平下将回撤控制在 −52%,长周期终值收益是定投 QQQ 的 10 到 33 倍,实现了风险调整后的收益最大化。