StyleGAN2 潜空间中的富表现力说话人头部视频编码
Expressive Talking Head Video Encoding in StyleGAN2 Latent Space
基于摘要分析。本文研究说话人头部视频的编码与重合成,针对现有视频重演方法难以保留抿唇、噘嘴、张嘴及皱纹等细粒度表情的问题,提出基于 StyleGAN2 图像反演与多阶段非线性潜空间编辑的端到端编码方法。其主要贡献是将逐帧表情变化表示为可叠加到单个身份潜变量上的低维编辑,而非仅对静态图像生成合理的属性变化。 机制上,方法在 StyleGAN2 的 Style-latent space(StyleSpace)中自动编码视频帧序列的细微面部形变,并将所得编码叠加到单个 Identity-latent,以重建身份、头部姿态和复杂表情运动。作者报告,在视频渲染表示中,单个 W+ 潜变量配合每帧 35 个参数即可支持高保真渲染;该数字描述的是潜变量表示规模,不是模型总参数量。作者还称框架可绕过额外训练、人物建模及对 landmarks/keypoints 的依赖,并可用于 puppeteering,即运动迁移。这不意味着底层 StyleGAN2 无需预训练。 作者报告生成视频在视觉上接近输入视频,但摘要未提供可核对的数据集、视频规模、定量指标、基线比较或运行成本。摘要中的分辨率记作“10242”,其排版含义尚待全文核实。实验协议、消融及统计信息尚未验证,尤其需要核对细微表情保真度、跨帧一致性及运动迁移的适用条件。 该研究的主要对象是视觉生成与人脸视频重演,而非 EEG 解码或 BCI;现有材料没有给出神经信号到面部潜变量的映射机制,因此不据此推断其 BCI 有效性,也不提出跨领域复现实验。
值得关注其以单个身份潜变量和逐帧低维编辑编码细粒度面部动态的机制,但重合成质量、数据效率及运动迁移能力仍需结合全文实验核验。
来源:OpenReview · State space models · openreview.net