用于面部与 EEG 情绪识别的标签与特征协同学习
Label Feature Co-Learning for Facial and EEG Emotion Recognition
基于摘要分析。本文研究面部与 EEG 多模态情绪识别中的标签—时序信号语义错位:情绪可能短暂出现,统一标注却难以反映各信号中具体的情绪诱发时刻,且不同模态的诱发时刻可能不一致。作者提出标签与特征协同学习模型 LFCL,通过自适应生成实例级情绪标签、动态标签校准及多模态交互融合,旨在缓解情绪歧义并学习更具判别性的特征。 机制方面,LFCL 利用单模态与多模态信息生成实例级标签,以实现更精细的标签—特征对齐;动态标签校准结合历史信息平衡标签生成过程,促进不同信号间的情绪一致性;多模态交互融合整合多层级特征,提取全局情绪信息。相较于仅由固定标注指导特征学习的思路,核心区别是让标签生成与特征学习共同参与建模。不过,摘要未说明实例的时间粒度、历史信息的定义、标签校准规则、损失形式及训练与推理流程,这些细节尚未验证。 作者报告在三个公开数据集上的实验支持模型的有效性与泛化能力,但摘要未提供数据集名称、被试数、被试内或跨被试等划分协议、对照基线及具体指标,因此无法量化收益或判断泛化结论的适用范围。作者还将实例级标签生成解释为精确定位情绪诱发时刻;这一解释是否有时间定位标注或独立评估支持,需要核对全文,不能仅由分类性能提升推定。 复现时应重点核对实例级标签如何与原始标注关联、历史信息如何更新、多模态时间对齐方式,以及标签校准和交互融合各自的贡献。实验协议、消融及统计信息尚未验证。该工作的直接对象是多模态情绪识别,摘要未提供在线 BCI 控制或实际应用验证。
值得核对 LFCL 的实例级标签生成与动态校准能否缓解面部信号和 EEG 的情绪时序错位,尤其需区分情绪诱发时刻定位的直接证据与情绪分类性能的间接证据。
来源:OpenReview · EEG · openreview.net