Chinese contentSpool:让混合架构 VLM 流式视频推理更快更准
做视频流式推理的可以看看这篇。它不训练任何参数,靠缓存每帧的状态变换来删掉过期帧,首字延迟比 vLLM 基线快 6.6 倍,准确率还涨了 2.3 个百分点。写机器人或实时视频问答的工程师能直接用上这套思路。
做视频流式推理的可以看看这篇。它不训练任何参数,靠缓存每帧的状态变换来删掉过期帧,首字延迟比 vLLM 基线快 6.6 倍,准确率还涨了 2.3 个百分点。写机器人或实时视频问答的工程师能直接用上这套思路。
这篇论文搞了个新任务ICQ,让AI对着人像照片在视频里找人、看行为,还放出1377个视频测试集和75K训练集,开源模型里ISYV-Model效果最好。
Kimi Code 用一行命令和视频上下文解决了 coding agent 配置复杂、描述不清的痛点,做自动化脚本或视频处理的开发者可以直接上手试试,插件系统还能扩展工作流。