跳到正文
arXiv · 多模态与生成机制· Simon Giebenhain; Tobias Kirschstein; Liam Schoneveld; Davide Davoli; Zhe Chen; Matthias Nießner·· 3 天前精选AI 评分81

Video Diffusion Avatars:将视频扩散模型转化为可控 3D 虚拟化身

Video Diffusion Avatars: Taming Video Diffusion Models into Controllable 3D Avatars

AI 导读

基于摘要分析。该研究面向单图像驱动的写实 3D 虚拟化身生成,提出 Video Diffusion Avatars(VDAs),通过微调视频扩散模型(VDM),实现对相机视角、面部表情与上半身姿态的独立控制,并追求跨视角一致性。其主要研究对象是视觉生成与头像重演,而非神经信号解码或 BCI。 方法利用互联网规模数据预训练 VDM 中的外观、运动与物理先验,以学习得到的表情空间替代 3D morphable models(3DMMs)的表情表示,旨在扩展舌头、口腔内部等细节的表达能力。作者报告,其 DISTRACT benchmark 揭示了学习式表情编码中的显著视角偏置,并称通过解耦可去除该偏置,使表情编码能够作为多视角一致头像的驱动信号。相机与上半身姿态共同通过代理网格渲染提供条件,配合表情编码实现三类控制因素的独立调节;具体解耦目标和训练损失尚未验证。 训练采用相机三元组策略。作者报告,仅使用公开多视角数据,在单张 A100 上训练耗时 34 小时;摘要未列出训练数据集组成及划分。在 BecomingLit 的新视角重演评估中,相对于所比较的单图像 3D 虚拟化身方法,作者报告面部 LPIPS 降低 29%,感知质量 JOD 提升 66%;具体基线、指标汇总方式与统计不确定性尚未验证。作者还通过静态 3DGS 重建探针评估多视角一致性,并报告其生成结果在所比较方法中表现最佳。 作者展示或主张的生成能力还包括物理上合理的头发动态、阴影、反射和折射,但这些效果的评估条件需核对全文。复现时应重点核对预训练 VDM、表情编码与解耦实现、相机三元组采样方式、代理网格构建及评估协议。实验协议、消融及统计信息尚未验证;摘要未提供与 EEG/BCI 的直接机制对应,因此不据此提出神经信号迁移结论。

阅读价值

值得关注其通过表情与视角解耦、代理网格条件和相机三元组训练,将视频生成先验转化为可控多视角头像的机制;摘要提供了可核对的训练成本与重演指标,但尚不能据此确认其对 EEG/BCI 的适用性。

来源:arXiv · 多模态与生成机制 · arxiv.org