World Labs 出了 Frameboy,能在 AI 生成的 3D 世界里实时漫游,相机想怎么转就怎么转,推理靠 fal 撑着延迟很低。
#real-time interaction
Solaris offers a new approach to real-time interactive UI generation, though its practical application is limited by current technical constraints.
VoiceMem提供了实时、个性化、情感感知的语音交互的实用记忆基础,在准确性、情感与个性化方面优于Mem0等经典系统,且检索速度快,成本较低,值得一看。
Vivix这个新模型单卡就能每秒生成上万视频token,做实时互动视频、多模态聊天特别带劲,比之前那些慢吞吞的方案强多了。
需要更快更自然的语音合成?微软新模型速度快两倍,15种语言随意切换,适合搭实时语音Agent。
阿里刚发的 HappyOyster 1.0,能根据一句话或一张图生成实时可探索的 3D 世界,还能像导演一样用文字操控剧情,支持 1 分钟以上互动,挺有新意的。
OpenMOSS 发了能边看视频边聊天的实时多模态模型,11B 参数开源可部署,适合做监控、直播等持续视频理解应用。
高德发了ABot-World Studio,用一张5090就能生成小时级的实时3D场景和交互视频,做游戏或数字孪生都可以试试,门槛低了很多。
蚂蚁灵波开源的世界模型能让你实时操控高清场景,战斗跳伞滑翔,多人一起玩,连续跑一小时不崩,比传统模型强很多。
Vercel 把语音代理直接做到 AI Gateway 里了,用 useRealtime 就能接入实时对话,省掉搭服务器。
Catnips AI 新发布的 MaineCoon 模型能实时跟你对话、做表情,不像以前只能生成一段视频完事。
阿里新出的HappyOyster 1.0,能让你在游戏和互动剧里回溯剧情、控制场景,比之前版本多了两种玩法模式。
阿里云搞了个好玩的:一句话就能生成能边玩边改的动态世界,像游戏一样探索,还能和虚拟男友实时互动,快去体验。
全双工交互解决了 AI 对话中“你说我听”的延迟感,做实时语音/视频助手或协作工具的团队可以直接参考——Thinky 把自然交互和智能水平平衡好了。
关注人机协作未来的开发者,这条信息点明了AI的下一个关键方向——实时多模态交互,值得思考如何参与其中。
Mira Murati 点出了当前 AI 交互的根本局限——思考时“失聪失明”,做对话产品、语音助手或实时协作工具的团队,看完会重新思考产品架构。
这款模型解决了实时语音交互中“等待录音结束”的痛点,做语音助手或实时翻译的开发者可以直接在 GitHub 上试玩,体验每 0.4 秒的决策能力。
做开源项目或代码审查的开发者,可以围观 AI 如何实时吐槽你的代码——既有趣又能反思设计,建议去直播间看看。
音乐创作者和 AI 爱好者现在可以像弹奏乐器一样实时与模型互动,延迟低至 200ms,直接上手试试开源权重和插件。
GPT Realtime 2.0 把实时AI应用的可行性推到了新高度,做语音/视频交互产品的创业者可以从中找到17个具体方向,建议直接点开看想法列表。
Agent 流式输出一直是个痛点,LangChain 的新协议让开发者不再需要手动解析原始事件流,做 Agent 应用或实时交互界面的团队可以直接用,省去大量底层工作。
做视频分析和多模态应用的开发者终于可以上手测试了——Gemini Omni 的实时视频理解能力可能改变视频交互方式,建议有相关需求的团队尽早体验。
做多模态 AI 交互的开发者终于有了可部署的全双工开源方案——MiniCPM-o 4.5 把实时语音视频对话从概念变成 9B 模型,值得直接上手试。
Runway Characters将视频生成延迟降至1.75秒,实现实时交互,为AI视频智能体在对话和直播领域的落地提供了关键技术基础。
gpt-realtime-2的发布表明OpenAI在语音AI领域持续迭代,直接提升交互体验。但由于缺乏基准对比,开发者需自行评估其实际性能。