Wiki 知识库

全部文档 / 标签: 清华大学

3 篇
清除

清华团队开源C2C技术:大模型缓存直连,绕过文字交流

清华大学联合无问芯穹、上海AI Lab发布C2C(Cache-to-Cache)技术论文(ICLR 2026),彻底改变多智能体系统通信范式。传统Multi-Agent协作中模型需将高维思考压缩为文本逐字解码再传递,造成延迟、语义丢失和高昂Token成本。C2C通过轻量级神经网络(Neural Fuser)将模型A的KV-Cache直接旋转对齐后融进模型B的KV-Cache,并引入可学习门控机制动态决定各层吸收外部缓存的程度。实测推理速度提升2.0-2.5倍,问答准确率较单模型提升14.2%,比文本通信的Agent团队高5%。代码与论文均已开源,未来有望大幅降低Mixture-of-Agents调用成本。

技术 › LLM AYi (@AYi_AInotes) 2026-09-194.3 KB 71

清华开源教育Agent OpenMAIC,GitHub 21K Star

清华THU-MAIC团队开源的教育Agent项目OpenMAIC发布1.0正式版,GitHub已获21K Star。项目从固定Workflow升级为Agent形态,只需描述需求,Agent可自动选skill、调研、规划课程,生成可交互、带AI配音的完整课件。文章通过书籍精读、物理电磁感应交互仿真、论文精读等案例展示了生成质量,并介绍了系列课程规划、PPT导入、18个skill体系、本地部署、声音克隆及课件竞技场等功能,认为其已形成调研、备课、讲解、互动、答疑的完整链路。

技术 › Agent 刘聪NLP 2026-08-299.1 KB 320.9K 763 73

下一代 LLM 推理网络:ZCube 如何缓解网络瓶颈

文章探讨了随着长上下文推理和 Prefill-Decode 解耦成为主流,网络如何成为 LLM 推理集群吞吐量和延迟的关键瓶颈。Z.ai、Harnets.AI 和清华大学联合开发了 ZCube 网络架构,通过扁平化拓扑和混合轨道设计,有效解决了传统 ROFT 架构下的流量负载不均衡问题。生产环境基准测试显示,ZCube 仅通过架构优化便实现了交换机成本降低 33%、吞吐量提升 15% 以及 TTFT 延迟降低 40.6% 的显著收益。

技术 › DevOps Z.ai 2026-05-2134.3 KB 204.1K 926 77