跳到正文
OpenReview · State space models· Shaocong Long; Qianyu Zhou; Xiangtai Li; Xuequan Lu; Chenhao Ying; Yuan Luo; Lizhuang Ma; Shuicheng YAN·· 2024-07-21精选AI 评分73

DGMamba:通过广义状态空间模型实现域泛化

DGMamba: Domain Generalization via Generalized State Space Model

AI 导读

基于摘要分析。DGMamba 针对视觉域泛化中的分布偏移问题,试图在保留 Mamba 全局感受野与线性复杂度优势的同时,通过隐藏状态抑制及语义感知图像块处理,提高对未见域的泛化能力。 核心机制包括 Hidden State Suppressing(HSS)与 Semantic-aware Patch Refining(SPR)。HSS 旨在减弱与域特有特征关联的隐藏状态对输出预测的影响。SPR 则鼓励模型关注对象而非背景,包含 Prior-Free Scanning(PFS)和 Domain Context Interchange(DCI):PFS 打乱图像中的非语义 patches,以调整图像序列的组织方式;DCI 跨域融合 patches,通过组合不匹配的非语义与语义信息对 Mamba 进行正则化。摘要未说明语义区域如何识别、隐藏状态如何抑制,以及具体损失和训练流程,这些实现细节尚未验证。 作者报告,在四个常用 DG benchmark 上,DGMamba 优于现有先进模型;但摘要未提供 benchmark 名称、数据划分、指标数值或对照配置,不能据此量化收益或判断比较条件。实验协议、消融及统计信息尚未验证。作者表示代码将公开,当前材料不能确认代码已发布。 平台推测(待验证):可检验的迁移假设是,HSS 或可用于削弱 EEG 中与被试或会话相关、但与任务无关的状态信息。原方法依赖图像 patches 的语义与背景区分及跨域重组,迁移时需重新定义 EEG 时段或通道片段的任务相关性,并核对是否依赖额外监督或较大数据规模;不能直接套用对象与背景划分。低信噪比、小数据及通道差异可能导致任务信号被误抑制,片段打乱也可能破坏时序结构。一个小规模可证伪实验是:在相同 Cross-subject 划分与训练预算下比较 Mamba 基线和仅加入 HSS 的版本,保持测试被试不可见,检验泛化收益是否稳定。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其对域相关隐藏状态的抑制与语义、背景重组机制能否真正改善未见域泛化,但摘要尚不足以验证性能优势或 EEG 迁移价值。

来源:OpenReview · State space models · openreview.net