跳到正文
OpenReview · Representation learning· Haifeng Chen; Peng Zhang; Chujia Guo; Ke Lu; Dongmei Jiang·· 2024-01-01精选AI 评分75

基于融合先验约束的自监督学习的面部动作单元表征

Facial Action Unit Representation Based on Self-Supervised Learning With Ensembled Priori Constraints

AI 导读

基于摘要分析。该研究针对面部动作单元(AU)定位与表征学习依赖大量人工标注的问题,提出端到端自监督模型 SsupAU,从无标注面部视频中学习 AU 表征;主要研究对象是面部肌肉运动及表情理解,而非 EEG 或 BCI。 模型利用自编码器将输入人脸分解为六个组成部分:五个具有光度与几何意义的分量,以及以二维流场表示的 AU 分量。通过逐步构建标准中性脸、带姿态的中性脸和带姿态的表情脸,模型尝试在无监督条件下解耦这些因素。摘要未完整列出五个分量,也未提供具体损失形式。 方法引入两项先验假设:身份一致性假设利用同一面部视频不同帧之间共享的反照率与深度,并学习相机颜色模式,辅助恢复标准中性脸;平均脸假设帮助模型发现中性表情,从而将 AU 与其他因素分离。这一机制依赖面部视频及其跨帧身份一致性,不能直接视为通用时序信号解耦方法。 作者报告,在基准数据集上,该方法相较其他先进方法取得更好的性能,并能将输入人脸分解为可用于重建的有意义因素。摘要未给出数据集名称、数据划分、具体指标及数值,因此无法核对优势幅度或比较条件;实验协议、消融及统计信息尚未验证。摘要提供了代码地址,但实现、训练资源与可复现性尚未核验。 平台推测(待验证):先验约束下的因素解耦具有方法层面的参考价值,但面部光度、几何及中性脸假设与 EEG 的观测结构没有直接对应关系,现有材料不足以提出具体 BCI 迁移方案;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其如何以身份一致性和平均脸先验约束无标注视频中的表情因素解耦,但性能优势及先验适用范围仍需结合全文协议核对。

来源:OpenReview · Representation learning · openreview.net