Wiki 知识库

全部文档 / 标签: 实时交互

4 篇
清除

如何使用 Gemini Live API 构建实时语音 AI Agent

本文介绍如何使用 Gemini Live API 构建具备自然对话体验的实时语音 AI Agent。与传统的单向 TTS 不同,Gemini Live 采用音频到音频的双向通信,能感知语气、停顿并支持随时打断。文章详细讲解了系统架构:浏览器客户端通过 WebSocket 连接 Python 后端,再与 Gemini 建立持久双向会话,并实现发送、接收、播放的并发核心循环。针对打断延迟问题,作者提出本地立即静音的 barge-in 技巧,并结合内置 VAD 实现即时响应。最后通过工具调用(function calling)与异步确认模式,让语音 Agent 能够播放音乐等实际操作且不产生尴尬停顿。完整示例代码已在 GitHub 开源。

技术 › Agent Annie Wang, Annie Cusack (Google Cloud) 2026-09-248.3 KB 35.9K 326 82

黄仁勋谈可验证安全,Gemini 3.8 Live 走向实时协作,语音智能体上线补齐验收

本期早报围绕 AI 系统的可控性与验收展开。黄仁勋在 All-In Podcast 中把 AI 安全从宏大叙事拉回工程控制,强调事故根因分析、沙箱与发布门机制;Google DeepMind 发布 Gemini 3.8 Live,将实时视觉输入、多语言对话与后台工具调用编排成连续交互链路;Plivo 分享语音智能体上线首周的五种失败模式,涵盖延迟、转写、结构化采集、语音合成规范与打断处理,提出字段级测试等验收清单。速览部分还包括 Tobi Lütke 谈 AI 智能体与人类判断力、Hugging Face 的重复成功率指标、Box CEO 谈企业 AI 应用层、iOS 27 Siri 体验等 AI 行业动态。

技术 › LLM ginobefun 2026-09-1622.0 KB 5.1K 2 78

LiveTalking:目前商用程度最高的实时交互数字人引擎

文章测评了 LiveTalking 这款实时交互数字人引擎,称其为目前市场上商用能力最强的产品。作者指出其支持多种主流模型(ernerf、musetalk 等),具备声音克隆及可打断的实时对话能力,且兼容 WebRTC 等多种流媒体协议。该工具已广泛用于无人直播、AI 客服等变现场景。

技术 › TTS 鸟哥 | 蓝鸟会 (@NFTCPS) 2026-07-081002 B

In Search for the World Model Harness for Gaming

文章探讨了视频世界模型在游戏开发中的应用与挑战。Roblox 团队通过引入 14B 参数的动作条件 Text-Image-to-Video 模型,并设计了名为“Game Cartridge”的轻量级控制框架,结合实时视觉语言模型(VLM)作为感知组件,成功将视频生成模型与传统游戏引擎耦合。该方案解决了世界模型缺乏抽象状态管理和游戏进程推进的问题,使开发者能够利用 AI 生成高保真且具备复杂交互的可玩游戏体验。

技术 › LLM Alberto Hojel 2026-05-2138.3 KB 632.5K 356 81