跳到正文
OpenReview · State space models· Stella Bounareli; Christos Tzelepis; Vasileios Argyriou; Ioannis Patras; Georgios Tzimiropoulos·· 2024-01-01精选AI 评分76

通过寻找 GAN 潜空间方向实现单样本人脸神经重演

One-Shot Neural Face Reenactment via Finding Directions in GAN's Latent Space

AI 导读

基于摘要分析。本文研究人脸/头部重演:将目标人脸的 3D 头部朝向与表情迁移到源人脸。核心贡献是利用预训练并经微调的 GAN,通过 3D 形状模型辅助学习控制姿态与表情变化的潜空间方向,绕开专门训练身份与姿态/表情解耦嵌入网络的路线。 技术机制上,作者利用 3D 形状模型在构造上对头部姿态、身份和表情的解耦,为 GAN 潜空间方向学习提供依据,以改善 GAN 的可控性。对于真实图像,方法先将其嵌入 GAN 潜空间,再进行重演。摘要称该方法只需一张源图像,并支持跨人物重演;这里的 one-shot 指单张源图像使用条件,不表示整个模型仅用一个样本训练。具体 GAN 架构、微调范围、方向学习目标及真实图像嵌入方法尚未验证。 结果方面,作者报告,在 VoxCeleb1 & 2 标准基准的定性与定量评估中,该方法生成的重演人脸通常比所比较的先进方法质量更高。摘要未给出指标数值、数据划分及具体对照方法,因此不能量化提升幅度;实验协议、消融及统计信息尚未验证。 该研究的主要对象是视觉生成,并非神经信号解码。其机制依赖预训练人脸 GAN 与具有明确姿态、身份和表情参数结构的 3D 形状模型;当前材料未提供这些结构与 EEG 因素之间的具体对应关系,因而不据此提出 BCI 迁移效果或复现实验建议。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其借助 3D 形状模型发现 GAN 潜空间可控方向的机制,但证据限于人脸重演,尚不能据此判断对 EEG/BCI 的适用性。

来源:OpenReview · State space models · openreview.net