推理平台相关 AI 资讯 · AI 热点

7月17日

22:06

22:06

小互@imxiaohu

精选

LiveKit 在其推理平台 LiveKit Inference 上推出针对 Google Gemma 4 31B 的优化服务。实时语音场景中，首字延迟低至192毫秒，比GPT-4.1的1006毫秒快5.2倍。成本降低约83%，约为GPT-4.1的六分之一。在酒店前台场景测试中，任务完成率达88%，超过GPT-4.1（73%）和Gemini 2.5 Flash（64%）。

AI产品 LiveKit Gemma 4 GPT-4.1

推荐理由：LiveKit 用 Gemma 4 31B 做实时语音，延迟比 GPT-4.1 低5倍，成本仅六分之一，酒店测试胜出，值得试试。