模型

微软研究院开源 Code Video Model:先写代码再生成视频

精选理由

微软研究院开源了个新玩法:让 AI 先写代码摆好场景和镜头,再上色成片,布局不满意改一行代码就行,告别开盲盒式生成。

微软研究院开源了 Code Video Model,把视频生成拆成两个阶段。第一阶段让 AI 根据提示词写代码,用类似网页 3D 引擎的方式在虚拟空间里精确摆好场景、角色、摄像机机位和运动轨迹,产出类似低配游戏画面的动态小样,改一行代码就能修正布局。第二阶段采用 Early-step Conditioning 调度机制,只在扩散采样前几步参考代码视频确定构图和动作,后续撤掉参考、依据图片还原真实质感,避免成片出现塑料感。这套方案借鉴了电影工业的前期可视化预览(Previs)流程。

图片来源 · 小互
原文 · 小互

微软开源 Code Video Model 模型:用代码生成视频 微软研究院推出了一套新的视频生成方案:Code Video Model(代码视频模型)。 它让 AI 生成视频少一些“开盲盒”,先用写代码的方式,明确画面布局、动作轨迹和物理运动 到了后面的细节打磨阶段,就撤掉代码参考,根据参考图片去还原真实质感和细节 学电影拍片,“先画火柴人骨架,再让画师上色” 这套技术借鉴了传统电影工业中的前期可视化预览(Previs)机制:先用简易三维场景预演机位、演员走位和镜头节奏,确认安排后,再投入正式拍摄与后期制作。 你给它一句提示词,它先写一段代码(用类似网页 3D 引擎),在虚拟空间里把舞台、桌椅、角色和摄像机机位精确摆好,连运动轨迹和物理碰撞公式都算好。 这时会先跑出一个类似“低配游戏画面”的动态小样。如果你觉得椅子放歪了,改一行代码立刻就能纠正。 有了低精度的代码视频后,怎样把它变成逼真的最终成片? 这里存在一个关键挑战:如果直接把代码视频作为参考条件全程输入给视频扩散模型,AI 容易连同它的简陋几何和平坦材质一起模仿,导致成片仍有“塑料感”。 为了解决这个问题,研究团队提出了一种无需重新训练的调度机制:早期步数条件注入(Early-step Conditioning)。 只在扩散采样的最前几步让模型参考代码视频来“定构图和动作骨架”;到了后面的细节打磨阶段,就撤掉代码参考,全力根据参考图片去还原真实质感和细节。 Your browser does not support the video tag. 🔗 View on Twitter 💬 3 🔄 1 ❤️ 9 👀 1401 📊 5 ⚡