跳到正文
OpenReview · State space models· Changqin Huang; Fan Jiang; Zhongmei Han; Xiaodi Huang; Shijin Wang; Yanlai Zhu; Yunliang Jiang; Bin Hu·· 2025-01-01精选AI 评分77

面向基于视频的面部表情识别的动态时空图细粒度关系建模

Modeling Fine-Grained Relations in Dynamic Space-Time Graphs for Video-Based Facial Expression Recognition

AI 导读

基于摘要分析。本文研究基于视频的面部表情识别(FER),提出时空关系感知动态图卷积网络 ST-RDGCN,以无需面部关键点的动态时空图建模表情演变中的细粒度关系,针对帧级图表征较粗、关键点图依赖额外面部关键点且结构静态的问题。 方法包含三种图构建方案:动态独立空间图、动态联合时空图和动态交叉时空图,并提出关系感知时空图卷积算子 RSTG-Conv,用于学习动态图中的时空相关性。其主要方法贡献是动态图构建与关系感知图卷积,而非状态空间模型;不能根据来源栏目推断其使用了状态空间机制。摘要未说明节点定义、边权计算、动态图更新方式及训练损失。 作者报告,在其视频 FER 评估设置下,CK+、Oulu-CASIA、AFEW、DFEW 和 FERV39k 的总体 Accuracy 分别为 99.69%、91.67%、56.51%、69.37% 和 49.03%,并称达到当时最优表现。作者另报告,FERV39k 上的 UAR 较其所称当前最佳方法提高 3.6%;摘要未明确这是相对提升还是百分点差值,不能自行换算。作者的方案分析认为动态交叉时空图在三种构图方式中最有效。上述结果对应的数据划分、对照基线、消融及统计信息尚未验证,不能据此跨协议比较。 平台推测(待验证):若动态图能够捕获随时间变化的局部关系,其机制可能用于探索 EEG 通道与时间窗之间的非固定依赖。可考虑复用图构建思想与 RSTG-Conv,但需重新定义 EEG 节点、特征和边,并核对原方法对视频特征、监督标签及训练规模的依赖。低信噪比可能使动态边追随伪迹,跨被试差异、通道配置变化和小数据则可能削弱图结构的稳定性。一个可证伪的小实验是在同一 EEG 任务、固定 Cross-subject 划分及相同特征提取器下,对比静态图与动态图,检验动态图是否带来稳定增益,而非只改善训练集表现。该迁移并非论文已验证贡献,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其无需面部关键点的动态时空图构建及三种图方案的对照结果;该机制可为 EEG 时空关系建模提供待验证假设,但摘要不支持任何 BCI 效果结论。

来源:OpenReview · State space models · openreview.net