跳到正文
OpenReview · State space models· Aggelina Chatziagapi; ShahRukh Athar; Abhinav Jain; Rohith MV; Vimal Bhat; Dimitris Samaras·· 2023-01-01精选AI 评分73

LipNeRF:用于 NeRF 唇形同步的合适特征空间是什么?

LipNeRF: What is the right feature space to lip-sync a NeRF?

AI 导读

基于摘要分析。本文研究如何生成与目标语音同步、同时保持三维面部几何一致性的高保真说话人头部视频,提出以三维可变形模型(3DMM)的表情空间而非音频特征空间作为条件的 LipNeRF,旨在兼顾唇形同步与三维面部建模。 原问题中的表示矛盾是:摘要指出,基于 GAN 的方法可借助大量视频学习音频与唇形的对应关系,但难以处理头部姿态变化;现有音频条件 NeRF 能更准确地建模三维面部几何,却通常依赖单一身份的有限视频训练,唇形同步表现受限。LipNeRF 的核心思路是改变 NeRF 的条件表示,使其直接依赖与面部形变相关的表情空间。摘要未说明目标语音如何映射到该空间,也未提供具体损失、训练流程或表情参数获取方式。 作者报告,实验中的 3DMM 表情空间比音频特征空间更适于表示唇形,且 LipNeRF 相较现有方法改善了唇形同步质量,尤其是在包含复杂姿态、光照及表情变化的高清电影内容中。摘要未给出数据集、身份数量、划分方式、指标、数值或对照方法名称,因此无法判断改善幅度及其泛化边界;实验协议、消融及统计信息尚未验证。 该研究的主要对象是语音驱动的视觉内容合成,而非 EEG 解码或 BCI。材料未提供神经信号到表情空间的映射机制或相关验证,不能据此推断其可提升 BCI 性能;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其以 3DMM 表情空间替代音频特征空间来条件化 NeRF 的表示选择;作者报告该选择改善唇形同步,但具体评估协议与效果幅度尚待全文核对。

来源:OpenReview · State space models · openreview.net