用于多模态情感分析的文本锚定模态专家与不确定性引导路由
Text-Anchored Modality Experts with Uncertainty-Guided Routing for Multimodal Sentiment Analysis
基于摘要分析。本文研究用户生成视频的多模态情感分析(MSA),提出 TAME,以文本作为主导语义先验,并通过不确定性引导的路由选择性融合音频、视频证据,而非对称处理各模态。 核心机制是非对称的 Mixture-of-Modality-Experts:文本特征充当固定且始终激活的共享专家,音频—文本和视频—文本跨模态分支作为动态路由的辅助专家。轻量级 Prophet Heads 估计各模态的样本级预测不确定性,并将其纳入模态路由器,以进行可靠性感知的专家聚合。摘要未说明不确定性的具体定义、监督方式、路由计算及损失形式,“固定”也不足以判断文本编码器是否冻结。 作者报告,在 CMU-MOSI、CMU-MOSEI 和 CH-SIMS 上,TAME 在多数指标上达到当前最佳表现;相对混合专家基线,参数量最多减少 78.7%,FLOPs 最多减少 41.2%。摘要未给出具体指标值、基线名称及这两项最大降幅对应的配置,不能将其理解为所有数据集或同一配置下的统一收益。实验划分、消融及统计信息尚未验证。 平台推测(待验证):其可借鉴之处是按样本可靠性选择辅助模态,而非文本天然应作为 EEG 任务的主专家。若任务确有与 EEG 对齐且推理时可用的文本或其他模态,可假设不确定性路由有助于抑制低质量辅助信号;可复用专家聚合思路,但需改造 EEG 编码、时间对齐和不确定性估计。低信噪比、跨被试差异、通道变化及小样本可能使置信度失准。小规模可证伪实验可在固定被试划分下,对比静态融合与不确定性路由,并逐步扰动辅助模态,检查路由权重及任务指标是否体现可靠性变化。已有相关 EEG 工作尚未检索确认。
值得核对 TAME 如何将文本语义先验与样本级不确定性路由结合,以及其相对混合专家基线的性能与计算开销权衡,但摘要结果不能直接支持 EEG/BCI 有效性。
来源:arXiv · 架构与算子 · arxiv.org