跳到正文
OpenReview · Representation learning· Seungjun Shin; Suji Kim; Dokwan Oh·· 2024-01-01精选AI 评分77

具有时间一致性调制的高效神经视频表示

Efficient Neural Video Representation with Temporally Coherent Modulation

AI 导读

基于摘要分析。该研究面向视频隐式神经表示(INR)的训练与编码效率问题,提出 Neural Video representation with Temporally coherent Modulation(NVTM),通过利用视频动态特征,改善网格型参数编码的参数冗余及码率问题。主要研究对象是视频表示与压缩,并非 EEG 或 BCI。 核心机制是将三维时空视频数据分解为一组带有流信息的二维网格,并联合处理时间上相互对应的像素。相较未充分考虑视频动态性的网格编码,该设计旨在利用时间对应关系,提高表示学习速度与参数利用效率;具体流信息来源、调制实现、损失函数和训练配置尚未验证。 作者报告,在其视频编码实验及所述画质条件下,相较 NeRV-style 方法获得超过 3 倍的编码速度提升,但摘要未提供具体硬件、计时口径或对应画质数值。相较既有网格型方法,作者报告在 UVG (Dynamic) 上,参数量减少 10% 时,PSNR 平均提升 1.54 dB、LPIPS 平均改善 0.019;在 MCL-JCV (Dynamic) 上,PSNR 平均提升 1.84 dB、LPIPS 平均改善 0.013。上述结果应分别理解,不能据此推断所有任务均实现同等加速或参数节省。 作者还报告,将 NVTM 扩展至视频压缩后,其性能可与 H.264、HEVC 及近期 INR 视频压缩方法相比,并开展了超分辨率、帧插值和视频修复实验;具体率失真曲线、基线配置、数据划分、消融及统计信息尚未验证。 平台推测(待验证):时间对应关系驱动的参数共享可能启发具有稳定空间布局的神经信号时空表示,但视频像素的运动对应不等同于 EEG 通道间关系,需要改造流信息与二维网格构造。低信噪比、跨被试通道布局差异和小数据可能削弱对应关系估计。一个可检验的假设是:在固定通道布局的被试内 EEG 重建中,以估计的时序对应关系调制网格,相比无调制网格能否在相同参数预算下改善重建误差与训练时间;这不构成 BCI 解码收益的证据。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其利用流信息组织二维网格、联合处理时间对应像素的机制,以考察视频 INR 编码速度与参数效率的权衡;其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net