跳到正文
OpenReview · Representation learning· Yasamin Jafarian; Hyun Soo Park·· 2023-01-01精选AI 评分78

从社交媒体视频中自监督学习着装人体的三维表征

Self-Supervised 3D Representation Learning of Dressed Humans From Social Media Videos

AI 导读

基于摘要分析。本文研究三维扫描等真实标注稀缺时,如何从社交媒体视频学习着装人体的高保真三维几何表征。核心贡献是利用跨帧局部几何变换形成时间一致性监督,并联合学习深度与表面法向,以支持真实图像中的细节几何恢复;研究对象是视觉人体重建,而非 EEG 或 BCI。 方法使用涵盖不同外观、服装、动作与身份的舞蹈视频,每段视频呈现单个人体及衣物的动态变化,但不提供三维真实几何。模型通过局部变换,将某一时刻图像所预测的人体局部几何映射至另一时刻,并约束预测的时间一致性。同时,方法最大化深度与表面法向之间的几何一致性,以利用与局部纹理、褶皱及明暗相关的表面信息。摘要称该方法可端到端训练,但未给出具体损失形式与网络配置。 作者还报告通过不确定性分析给出自监督学习的理论界,用于在无需训练的情况下刻画其性能;该界的假设、适用范围及与实测误差的关系尚未验证。作者报告,在真实图像与渲染图像上的人体深度估计和人体形状恢复任务中,方法优于所比较的最先进方法;摘要未提供数据集名称、划分、指标、数值及具体基线,实验协议、消融及统计信息尚未验证。 该方法依赖图像中的局部几何对应关系及深度—法向约束,不能将其直接等同于神经信号的时间一致性学习。现有材料不足以建立具体的 EEG 迁移路径,因此不提出 BCI 复现实验;相关 EEG 工作尚未检索确认。

阅读价值

值得关注其利用跨帧局部几何变换与深度—表面法向一致性构造自监督信号的机制,但作者报告的优势限于人体深度估计与形状恢复,不能据此推定 EEG/BCI 有效性。

来源:OpenReview · Representation learning · openreview.net