RTX 3090 上实现 Qwen3.5-27B 模型 207 tok/s 推理速度的技术实践
文章介绍了如何通过构建独立的 C++/ggml 推测解码器，在单张 RTX 3090 (24GB) 显卡上实现了 Qwen3.5-27B (Q4_K_M) 模型的高效推理。利用 DFlash block-diffusion draft 和 DDTree 验证器，成功将峰值解码速度提升至 207.6 tok/s，较自回归基准提升约 5.46 倍，并实现了在有限显存下运行 128K 长上下文的能力。
全部文档 / 作者: Sandro
2 篇
Claude Opus 4.7 + Veo 3.1 创意工厂：日产 550 条广告视频的 AI 系统
文章介绍了利用 Claude Opus 4.7 和 Veo 3.1 构建的自动化广告视频生成系统。该系统每天可生产 550 条具备电影级光影和表现力的动画视频，实现零成本、分钟级制作。通过全自动的概念迭代、场景变换和性能反馈，将创意转化为视觉故事并自动扩展，标志着测试速度取代创意成为新的竞争优势。
