LiveKit 上线 Gemma 4 31B 推理服务，实时语音比 GPT-4.1 快5倍成本六分之一

精选理由

LiveKit 用 Gemma 4 31B 做实时语音，延迟比 GPT-4.1 低5倍，成本仅六分之一，酒店测试胜出，值得试试。

AI 摘要

LiveKit 在其推理平台 LiveKit Inference 上推出针对 Google Gemma 4 31B 的优化服务。实时语音场景中，首字延迟低至192毫秒，比GPT-4.1的1006毫秒快5.2倍。成本降低约83%，约为GPT-4.1的六分之一。在酒店前台场景测试中，任务完成率达88%，超过GPT-4.1（73%）和Gemini 2.5 Flash（64%）。

LiveKit 上线 Gemma 4 31B 推理服务，实时语音比 GPT-4.1 快5倍成本六分之一 — 图片来源 · 小互

原文 · 小互

LiveKit 针对 Gemma 4 31B 进行优化在实时语音方面比 GPT-4.1 快 5 倍、成本六分之一 LiveKit 上线一项新服务：在自家推理平台 LiveKit Inferenc...

LiveKit 针对 Gemma 4 31B 进行优化在实时语音方面比 GPT-4.1 快 5 倍、成本六分之一 LiveKit 上线一项新服务：在自家推理平台 LiveKit Inference 上跑 Google 新一代大模型 Gemma 4 31B 跟 GPT-4.1 比：接话延迟低 5.2 倍（首字 192 毫秒对 1006 毫秒）、成本便宜约 83%（大概六分之一）酒店前台场景测试任务完成率 88%，超过 GPT-4.1（73%）和 Gemini 2.5 Flash（64%）... Your browser does not support the video tag. 🔗 View on Twitter 💬 2 🔄 0 ❤️ 3 👀 1894 📊 3 ⚡

Decoder07-16 09:07原文

查看原推