跳到正文
OpenReview · State space models· Jingyun Liang; Yuchen Fan; Kai Zhang; Radu Timofte; Luc Van Gool; Rakesh Ranjan·· 2024-01-01精选AI 评分74

MoVideo:基于扩散模型的运动感知视频生成

MoVideo: Motion-Aware Video Generation with Diffusion Model

AI 导读

基于摘要分析。MoVideo 研究文本到视频与图像到视频生成,针对直接扩展图像生成框架时未显式建模运动的问题,提出以视频深度和光流引导时空扩散生成的方法。其主要贡献是将空间布局与跨帧对应关系纳入生成过程,并在解码阶段继续利用光流改善帧间对齐。 方法以已有关键帧或由文本提示生成的关键帧为起点,先通过带时空模块的扩散模型生成视频深度及对应光流。深度描述逐帧物体距离和空间布局,光流提供跨帧对应关系。随后,另一个时空扩散模型在潜在空间生成视频,条件包括深度、经光流变形的潜在视频,以及计算得到的遮挡掩码。最后再次利用光流对齐并细化不同帧,辅助从潜在空间解码到像素空间。 作者报告,MoVideo 在文本到视频和图像到视频任务中取得当时最先进的结果,并在提示一致性、帧间一致性和视觉质量方面表现良好。但摘要未提供数据集、数据划分、指标数值及对照基线,尚不能据此判断提升幅度或不同条件下的稳健性;实验协议、消融及统计信息尚未验证。复现需进一步核对深度与光流的监督来源、遮挡掩码计算、各阶段训练方式及推理成本。 该研究的主要对象是视觉视频生成,并非 EEG 解码或 BCI。摘要中的运动约束依赖图像空间布局和跨帧对应关系,不能直接等同于 EEG 时序建模机制;当前材料不足以支持具体 BCI 迁移方案,相关 EEG 工作尚未检索确认。

阅读价值

值得关注其将深度、光流与遮挡掩码贯穿视频生成和解码的显式运动建模路径,但作者报告的领先效果及各模块贡献仍需结合全文实验核对。

来源:OpenReview · State space models · openreview.net