跳到正文
OpenReview · State space models· Jingyi Liu; Yuanyuan Shang; Mengyuan Yang; Zhuhong Shao; Jiaxi Lu; Tie Liu·· 2025-01-01AI 评分64

MFMamba:用于抑郁识别的多模态融合状态空间模型

MFMamba: A Multimodal Fusion State Space Model for Depression Recognition

AI 导读

基于摘要分析。本文研究从视频与音频信号中提取情绪信息以进行多模态抑郁识别,提出不使用注意力机制、以状态空间模型(SSMs)进行长序列建模的 Multimodal Fusion Mamba(MFMamba)框架。研究对象是视频—音频抑郁识别,而非 EEG 解码或 BCI 临床验证。 核心机制:作者认为,Transformer 自注意力(SA)的二次计算复杂度限制了长序列建模,不利于充分捕捉模态内及模态间的互补关系。MFMamba 使用 Video Spatio-Temporal Mamba(VSTMamba)提取视频时空特征,使用 Audio Temporal Mamba(ATMamba)提取音频时序特征,并通过 Fusion Mamba(FMamba)整合多模态特征,以捕捉相关性并减少信息冗余。摘要未说明状态更新、融合操作、损失函数及训练细节,不能据此确定其具体实现或实际复杂度收益。 结果与证据边界:作者报告在 AVEC 2013 和 AVEC 2014 数据集上取得具有竞争力的结果,但未提供指标数值、任务输出形式、数据划分或对照基线。实验协议、消融及统计信息尚未验证;需进一步核对性能提升来自长序列建模还是融合设计,以及运行时间和内存开销是否支持其效率动机。 平台推测(待验证):其模态专用时序编码与 SSM 融合机制可能用于探索 EEG 与音频或视频的联合建模,但原领域结果不等于 BCI 有效性。该迁移假设依赖可对齐的多模态序列与明确任务监督;可考虑复用融合框架,EEG 编码、通道组织和时间对齐则需改造。低信噪比、跨被试差异、通道变化及小数据训练均可能使收益消失。一个可检验的小实验是在固定跨被试划分、输入特征和训练预算下,比较 SSM 融合与简单拼接、自注意力融合的任务指标及计算开销。已有 EEG 相关工作尚未检索确认。

来源:OpenReview · State space models · openreview.net