用于 EEG 辅助跨模态情绪识别的 Functional Emotion Transformer
Functional Emotion Transformer for EEG-Assisted Cross-Modal Emotion Recognition
基于摘要分析。该研究针对 EEG 与眼动多模态情绪识别中 EEG 采集不便、数据标注成本较高的问题,提出结合 Functional Emotion Transformer 的 EEG 辅助对比学习框架 ECO-FET,旨在利用 EEG 的信息优势改善更便于实际采集的眼动情绪识别。 核心机制是同时利用 EEG 的功能性脑连接信息与频谱、空间、时间域信息,并在预训练阶段输入无标签 EEG 和眼动数据,通过跨模态对比学习获得情绪潜在表征。作者希望借助多模态互补信息提升单模态模型的表现;摘要未提供功能连接的构建方式、各域信息的融合结构、对比损失形式及样本配对规则,相关实现尚未验证。 摘要将流程列为预训练、测试和微调三个阶段,并说明测试阶段使用眼动及少量带标签 EEG 样本预测情绪。因此,不能据此将方法描述为完全不需要 EEG 的部署方案;少量带标签 EEG 是用于适配、微调还是直接参与预测,以及微调与测试的具体先后关系,均需核对全文。 作者报告,在三个公开数据集上的实验中,ECO-FET 显著超过当时的最先进方法,但摘要未给出数据集名称、指标、具体数值、对照方法或被试内、跨被试等评估协议,暂不能判断提升幅度及适用范围。复现时应重点核对跨模态数据配对、预训练与评估的数据划分、带标签 EEG 的使用预算,以及功能连接和频谱—空间—时间信息各自的贡献;实验协议、消融及统计信息尚未验证。该工作研究的是 EEG 辅助眼动情绪识别,摘要结果不能直接外推为其他 BCI 任务的有效性证据。
值得关注其利用无标签 EEG 与眼动进行跨模态对比学习、以 EEG 辅助眼动情绪识别的机制,但测试阶段少量带标签 EEG 的具体用途及实际采集需求仍需全文核对。
来源:OpenReview · EEG · openreview.net