用于跨被试多模态情绪识别的综合多源学习网络
Comprehensive Multisource Learning Network for Cross-Subject Multimodal Emotion Recognition
基于摘要分析。该研究面向跨被试 EEG 与眼动多模态情绪识别,提出综合多源学习网络 CMSLNet,旨在同时处理异构模态的一致性与差异、模态内及模态间信息融合,以及被试个体差异。 方法包含三个环节:首先,以实例级自适应鲁棒一致性度量对齐 EEG 与眼动信息,并识别不同情绪下两种模态的一致性和差异;其次,采用注意力低秩多模态融合方法 Att-LMF,动态学习模态内与模态间信息,形成具有判别性的融合特征;最后,通过域泛化提取融合特征中的被试不变表示,以提升对新被试的适应能力。摘要未提供一致性度量的数学定义、融合结构、域泛化目标或具体训练与推理流程,相关实现细节尚未验证。 作者报告,在跨被试多模态情绪识别实验中,CMSLNet 在 SEED-IV 和 SEED-V 上的 Accuracy 分别为 83.15% 和 87.32%,并称相对其所比较的最先进方法分别提升 3.62% 和 4.60%。摘要未明确后两项是相对百分比还是百分点,因此不能直接换算;被试数量、训练与测试划分、对照方法及结果汇总方式也尚未验证,不能据此与其他协议下的分数直接比较。 该方法的阅读重点是跨模态对齐、动态融合与被试不变表示如何协同,而不只是最终 Accuracy。复现前需核对 EEG 与眼动的特征提取及同步方式、跨被试划分、域泛化训练时可用的数据,以及一致性度量和 Att-LMF 的实现。实验协议、消融及统计信息尚未验证,当前证据不足以判断各模块的独立贡献或部署时对眼动输入的依赖。
值得阅读的是 CMSLNet 将实例级跨模态一致性度量、注意力低秩融合与域泛化结合,用于处理跨被试 EEG 与眼动情绪识别;其性能增益及各模块贡献仍需结合全文协议和消融核对。
来源:OpenReview · EEG · openreview.net