AITOP

低延迟

共 19 条相关 AI 资讯
8月11日
00:35
00:35官方一手Hugging Face: Blog（博客/媒体）
精选
NVIDIA发布Magpie TTS，一个开放权重的多语言语音合成模型。该模型针对低延迟场景专门优化，适合部署实时语音代理。开发者通过开放权重可以完全控制部署流程，包括自定义推理配置。Magpie TTS支持多种语言，能用于构建跨语言交互系统。
AI模型Magpie TTSNVIDIA语音合成
事件专题
推荐理由：NVIDIA把Magpie TTS开放权重了，能自己控制部署，低延迟跑多语言语音代理，比闭源API灵活。
原文
7月29日
09:47
7月24日
03:10
7月21日
11:53
11:53官方账号arXiv cs.LG@Shyamal Y. Dharia, Stephen D. Smith, Camilo E. Valderrama
该研究提出Diff-Logic，将神经网络编译为纯布尔电路，通过位运算在CPU上执行。在四个EEG数据集（包括二分类痴呆检测和三分类情绪识别）上，与MLP和BNN基线对比，复杂度从50k到500k参数。痴呆检测中Diff-Logic达到80.2% Macro F1，比MLP高6.8%。在7W Nvidia Jetson Orin Nano单核CPU上，情绪识别任务中MLP性能略优但延迟是Diff-Logic的2.3倍，模型大小是14倍。Diff-Logic在模型规模扩大10倍时推理时间几乎不变，最大复杂度下速度提升达2.9倍。
论文Diff-LogicEEGMLP
事件专题
推荐理由：这论文把神经网路编译成纯布尔电路，在边缘设备上跑EEG分类，延迟低还省电。痴呆检测准确率比MLP高6.8%，值得搞BCI的人看看。
原文
7月17日
16:06
16:06IT之家（博客/媒体）
阿里通义实验室发布 Wan-Streamer v0.2 模型，端到端响应延迟仅 550ms（含 350ms 网络延迟）。输出分辨率从 v0.1 的 192×336 提升至 640×368@25FPS，微表情清晰可见。模型采用“Thinker+Performer”双架构，Thinker 单卡处理感知与理解，Performer 多卡并行生成高清视频。Wan-Streamer 将文本、音频、视频输入统一映射到因果时间线，每 160ms 完成一次感知-理解-生成-解码循环。相比常见实时语音对话模型，Wan-Streamer 支持全双工视频交互且延迟控制在 1 秒内。
AI模型Wan-Streamer阿里通义多模态
推荐理由：阿里发了 Wan-Streamer v0.2，视频电话延迟才 550ms，画质从模糊到高清，还能边听边看边回应，挺有意思。
原文
7月10日
01:56
7月8日
14:28
14:28IT之家（博客/媒体）
精选73°
OpenAI 推出 gpt-realtime-2.1 和 gpt-realtime-2.1-mini 两款模型，专为低延迟语音智能体与多模态交互设计。官方表示通过优化缓存机制，p95 延迟至少下降 25%。gpt-realtime-2.1-mini 支持实时音频、文本输入、工具调用与函数调用，并可配置推理强度（minimal、low、medium、high、xhigh 五档）。gpt-realtime-2.1 增强字母数字识别、静音与噪声处理、中断处理等能力。定价方面，gpt-realtime-2.1 文本输入每百万 Tokens 4 美元，音频输入 32 美元；mini 版文本输入仅 0.6 美元。
AI模型OpenAIgpt-realtime-2.1gpt-realtime-2.1-mini
事件专题
推荐理由：OpenAI 的 Realtime 2.1 延迟更低，价格也更友好，做语音代理的直接换这个，体验提升明显。
原文
6月25日
01:09
01:09官方一手AWS Machine Learning Blog@Bojan Jakimovski
Loka 利用 Amazon Nova 2 Sonic 模型打造了自然且低延迟的语音代理，解决了传统机器人式助手导致客户挂断的问题。该架构将响应延迟优化至接近人类对话水平，显著降低用户等待时长。Loka 的方案减少了客服流失率并提升了品牌口碑。
技巧LokaAmazon Nova 2 Sonic语音代理
推荐理由：Loka 用 Amazon Nova 2 Sonic 做出了几乎没延迟的语音代理，客户不挂电话，客服成本也降了。
原文
6月16日
17:30
17:30官方账号腾讯混元 Tencent Hunyuan@TencentCloud
精选
腾讯云推出AI驱动的全球体育流媒体解决方案，支持4K优化和亚秒级延迟直播。该方案提供20+语言的AI实时解说和自动集锦生成，降低制作成本。全球部署3200+节点，200 Tbps带宽覆盖70+地区，实现全天候无人值守检测和SSAI精准广告货币化。
AI产品Tencent CloudAI体育直播4K流媒体
推荐理由：腾讯云这个体育流媒体方案挺强的，4K画质亚秒延迟，还能自动用20种语言解说比赛，全球覆盖也广，搞直播的可以看看。
原文
6月12日
16:13
13:10
13:10官方账号Guillaume Lample (Mistral)@GuillaumeLample
精选73°
Guillaume Lample 宣布推出首个语音模型 Voxtral TTS，该模型在性能上达到业界领先水平，同时大幅降低成本和延迟。它采用新架构，结合自回归生成语义语音令牌与流匹配生成声学令牌。团队还发布了技术报告，详细分享了训练方法和洞察。这标志着语音 AI 领域的重要进展，未来将有更多音频相关成果。
AI模型语音模型TTS低成本
推荐理由：Voxtral TTS 在成本和延迟上显著优于现有方案，做语音合成或实时语音应用的开发者可以直接关注，技术报告也值得细读。
原文
6月10日
17:27
17:27官方账号Together AI@togethercompute
精选
DeepCogito团队需要为其前沿推理模型实现低于500毫秒的首令牌时间，并支持每分钟1000+请求。Together AI提供了解决方案，满足了这一严苛的性能要求。DeepCogito团队分享了在创业公司时间线上构建前沿模型的经验。这展示了AI基础设施提供商如何帮助初创企业实现高性能推理。
AI产品推理模型Together AIDeepCogito
推荐理由：做推理模型部署的团队会关心这个案例——Together AI帮DeepCogito在创业节奏下实现了500ms首令牌延迟，值得点开看看他们怎么做到的。
原文
03:07
6月9日
23:23
5月28日
04:47
5月21日
09:35
09:35SuperTechFans（博客/媒体）
83°
谷歌发布了 Gemini 3.5 系列模型，其中 3.5 Flash 版本在多项基准测试中表现优异，输出速度是其他前沿模型的 4 倍，特别适合大规模多步骤代理任务。该模型已通过 Gemini 应用、Google 搜索等渠道上线，开发者可通过 Antigravity 平台和 API 使用。推测其采用混合精度（FP4/FP8）和较少活跃参数，在保持高性能的同时降低成本。这一发布标志着智能代理技术的新突破，有望推动 AI 在复杂场景中的广泛应用。
AI模型Gemini 3.5 Flash推理模型低延迟
推荐理由：Gemini 3.5 Flash 解决了高智能与低延迟的矛盾，做多步骤代理和编码的开发者可以直接用上，成本还更低，值得一试。
原文
5月20日
04:25
5月15日
10:02
10:02官方账号arXiv cs.AI@Titouan Parcollet, Shucong Zhang, Xianrui Zheng, Rogier C. van Dalen
精选
传统语音翻译系统依赖语音识别和文本翻译两个独立模块，容易产生级联错误。本文提出一种基于LLM的流式语音翻译架构，让模型不仅能输出翻译结果，还能自主判断是否已听到足够音频来输出。该系统通过输入语音与输出文本的自动对齐进行训练，在多个语言对上的翻译质量接近非流式基线，但延迟仅为1-2秒。这项研究解决了现有SpeechLLM系统无法实时流式输出的痛点，使语音翻译更适用于实时应用场景。
论文语音翻译流式处理SpeechLLM
推荐理由：做实时语音翻译的团队终于有了低延迟方案——延迟降到1-2秒且翻译质量不降，做会议同传或语音助手的开发者可以直接参考。
原文
5月11日
22:18
22:18官方账号NVIDIA AI@NVIDIAAI
70°
NVIDIA AI在X上发布推文，总结了大多数Agent系统面临的核心问题：推理与工具解析在多轮交互中漂移、KV缓存复用失效、工具触发延迟。为此，NVIDIA正通过强化Dynamo框架，使其更好支持Claude Code、OpenClaw、Codex等Agent模式。关键改进包括：稳定提示词以支持KV复用并降低首个Token生成时间（TTFT）、保留多轮推理与工具调用的交错模式、实现流式工具分发而非回合末缓冲、以及对齐真实多轮Agent运行时的行为。这篇博客详细介绍了这些基础设施问题和修复模式，对于正在构建自定义Agent栈或推理端点的开发者有直接参考价值。
AI产品Agent推理模型工具调用
推荐理由：推文直指当前Agent系统在基础设施层面的共性痛点，NVIDIA给出的优化路径对降低延迟、保持上下文一致性及提升工具调用实时性有实际意义。
原文