AI模型精选72°

OpenMOSS 开源实时视频流多模态模型 MOSS-VL-Realtime

兄弟们,开源大小模型多端开花啊! OpenMOSS 今天正式开源了 MOSS-VL-Realtim…

精选理由

OpenMOSS 发了能边看视频边聊天的实时多模态模型,11B 参数开源可部署,适合做监控、直播等持续视频理解应用。

AI 摘要

OpenMOSS 发布 MOSS-VL-Realtime,一个 11B 参数的多模态模型,支持实时视频流交互,可边接收视频边生成回复。采用 Cross-Attention 架构和 XRoPE 位置编码,支持 256K 上下文窗口,兼容文本、单图/多图、视频及图文交错输入。在流式视频理解基准上达到开源模型领先水平,主动预警和及时响应能力突出。同时开源 MOSS-VL-0708 Instruct,在细粒度感知和长视频理解任务上有明显提升。所有模型以 Apache-2.0 协议开源,支持本地部署和实时推理。

图片来源 · berryxia
原文 · berryxia

兄弟们,开源大小模型多端开花啊! OpenMOSS 今天正式开源了 MOSS-VL-Realtim…

兄弟们,开源大小模型多端开花啊!

OpenMOSS 今天正式开源了 MOSS-VL-Realtime,这是一个专注于实时视频流交互的 11B 多模态模型。

不同于传统“先看完视频再回答”的离线模式,MOSS-VL-Realtime 支持在视频持续输入的过程中同步进行感知和生成。

它可以一边处理新帧,一边生成回复,并在场景变化时主动修改或打断自己的回答,也能在信息不足时保持沉默,真正实现“边看边聊”的实时交互体验。

模型亮点包括: - 采用 Cross-Attention 架构,将视觉编码与语言推理分离 - XRoPE 实现统一的时空位置编码 - 支持文本、单图/多图、单视频/多视频以及图文交错输入(中英双语) - 256K 超长上下文窗口 - 统一的对话模板,可同时支持离线、流式和实时交互模式

在流式视频理解基准上,MOSS-VL-Realtime 在开源模型中达到领先水平,尤其在主动预警(Proactive Alerting)和及时响应方面表现突出。

同时,新发布的 MOSS-VL-0708 Instruct 在细粒度感知、时间动作定位以及长视频理解等任务上也有明显提升。

模型已全部开源(Apache-2.0 协议),支持本地部署和实时推理。

Hugging Face:https://t.co/y9tV0GtjuV GitHub:https://t.co/rjlzVtu7SD 技术博客:https://t.co/rjlzVtu7SD(内含详细说明)

这可能是目前开源社区在实时多模态交互方向上的一次重要推进,尤其适合需要持续视频理解和动态对话的场景。