跳到正文
OpenReview · State space models· Shaocong Long; Qianyu Zhou; Xiangtai Li; Xuequan Lu; Chenhao Ying; Yuan Luo; Lizhuang Ma; Shuicheng Yan·· 2024-01-01精选AI 评分72

DGMamba:通过广义状态空间模型实现域泛化

DGMamba: Domain Generalization via Generalized State Space Model

AI 导读

基于摘要分析。DGMamba 研究视觉域泛化中的分布偏移问题,尝试在保留 Mamba 全局感受野与线性复杂度优势的同时,通过抑制域特异隐藏状态、调整图像 patch 扫描和组合方式,提高对未见域的泛化能力。 核心机制包括 Hidden State Suppressing(HSS)与 Semantic-aware Patch Refining(SPR)。HSS 用于减轻与域特异特征相关的隐藏状态对输出预测的影响。SPR 旨在让模型更多关注对象而非上下文,包含 Prior-Free Scanning(PFS)和 Domain Context Interchange(DCI):PFS 打乱图像中的非语义 patch,构造更灵活的序列;DCI 通过跨域融合 patch,将不匹配的非语义与语义信息组合起来,对 Mamba 施加正则化。摘要未提供隐藏状态识别与抑制的具体实现、语义 patch 判定方法或损失形式。 作者报告,在四个常用 DG benchmark 上,DGMamba 获得优于所比较先进模型的结果;摘要未列出 benchmark 名称、指标数值、训练与测试域划分及具体基线,因此尚不能判断收益幅度及各模块贡献。实验协议、消融及统计信息尚未验证。摘要表示代码将公开,并非已确认发布。 平台推测(待验证):假设 EEG 中也能区分任务相关信息与被试或会话特异背景,HSS 的抑制思路可能对应跨被试、跨会话分布偏移;但图像对象与背景的划分不能直接等同于 EEG 的时间段或通道。可考虑复用隐藏状态抑制与背景重组思路,需改造 patch 定义、任务相关性判定及扫描顺序,避免破坏时序和通道关系。低信噪比、小数据及被试间差异可能使判定不稳定,误抑制有效信号。一个可证伪的小实验是在固定跨被试划分下,对比基础 Mamba 与仅加入 HSS 的版本,保持训练数据和调参预算一致,检查未见被试表现是否改善;这一迁移假设尚无本文证据支持,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的具体原因是 DGMamba 将域泛化中的域特异特征抑制与图像扫描机制改造分别落实为 HSS 和 SPR,可据此核对状态空间模型的泛化收益来源,但其 EEG 迁移价值尚未验证。

来源:OpenReview · State space models · openreview.net