跳到正文
OpenReview · State space models·· 29 天前精选AI 评分78

用于连续时空视频超分辨率的残差运动 Splatting

Residual Motion Splatting for Continuous Space-Time Video Super-Resolution

AI 导读

基于摘要分析。本文研究连续时空视频超分辨率:从低分辨率、低帧率视频生成任意空间尺度和时间位置的高分辨率视频。核心贡献是预测连续亚像素运动轨迹,并将低分辨率特征直接投射融合到高分辨率网格,使时间插值与多帧超分辨率成为同一操作。 作者指出,部分现有方法先在低分辨率下对齐融合,再回归连续高分辨率表示;另一些方法先把各帧插值到输出分辨率,再执行 Splatting。两类流程都在融合前重采样单帧信息,可能损失多帧观测之间的亚像素位置关系。本文尝试恢复经典多帧超分辨率依靠精确对齐、累积互补采样来恢复细节的机制。 具体而言,方法利用全视频序列整合的特征预测逐像素连续轨迹,以平滑残差运动修正线性光流路径,估计未观测时刻的亚像素位置。随后,在学习得到的潜在空间中,按预测位置将相邻低分辨率帧的特征直接 Splatting 到高分辨率网格,并使用预测的可见性权重处理遮挡与投射空洞,最后由解码器消解剩余歧义。轨迹参数化、训练损失及解码器结构尚未验证。 作者报告,在多个标准基准上,重建保真度与感知质量均优于所比较的现有先进方法,运行速度最高可快一个数量级;摘要未提供基准名称、具体指标、对照方法、输出尺度、硬件或计时条件,不能据此确定收益的适用范围。实验协议、消融及统计信息尚未验证,复现时需重点核对亚像素定位、可见性加权及融合顺序的独立作用。该研究的主要对象是视频重建,材料未提供 EEG 或 BCI 有效性的证据。

阅读价值

值得核对其“先按亚像素位置融合、再解码”的设计能否保留多帧互补采样信息,以及连续轨迹和可见性权重各自对重建质量与速度的贡献;摘要结论尚需全文实验验证。

来源:OpenReview · State space models · openreview.net