跳到正文
OpenReview · EEG· Eleonora Lopez; Eleonora Chiarantano; Eleonora Grassucci; Danilo Comminiello·· 2023-01-01精选AI 评分72

基于 EEG 与外周生理信号的超复数多模态情绪识别

Hypercomplex Multimodal Emotion Recognition from EEG and Peripheral Physiological Signals

AI 导读

基于摘要分析。本文研究 EEG 与外周生理信号的多模态情绪识别,提出带有参数化超复数乘法融合模块的超复数多模态网络,用于效价(valence)与唤醒度(arousal)分类。核心贡献是利用超复数域的代数运算规则,建模已学习特征维度之间的潜在关系,以支持多模态融合。 方法动机是:作者认为,既有深度学习方法仍依赖手工提取特征,且常采用单模态输入,未充分利用神经网络的特征学习能力及情绪表达的多模态信息。所提融合模块将参数化超复数乘法用于特征交互;但摘要未交代信号编码方式、超复数表示的具体构造、损失函数及训练流程,尚不能据此断言其完整端到端实现方式。 作者报告,在公开数据库 MAHNOB-HCI 上,使用 EEG 与外周生理信号进行效价和唤醒度分类,性能超过一个多模态最先进对照网络。摘要未给出该对照名称、具体指标、提升幅度、被试数量或被试内/跨被试划分,因此该结果应限定在作者所用但尚未核实的评估协议下理解,不能据此认定跨被试泛化能力或实际 BCI 效果。 作者提供了公开代码 MHyEEG,为复现提供了入口;代码内容与可运行性尚未核验。复现时需核对预处理、各模态输入及对齐方式、标签划分和训练测试协议,并检查融合模块相对常规融合方式的消融及参数量对照。实验协议、消融及统计信息尚未验证。

阅读价值

值得关注其以参数化超复数乘法融合 EEG 与外周生理信号的具体机制;作者报告优于多模态对照网络,但评估划分、提升幅度及融合模块的独立贡献尚需全文验证。

来源:OpenReview · EEG · openreview.net