GroupMamba:高效的基于分组的视觉状态空间模型
GroupMamba: Efficient Group-Based Visual State Space Model
基于摘要分析。GroupMamba 针对纯状态空间模型(SSM)在计算机视觉中扩大模型规模时的训练不稳定与效率问题,提出结合分组扫描、通道调制和蒸馏训练的视觉模型,以改善参数效率及大模型训练稳定性。 核心机制是 Modulated Group Mamba 层:将输入通道划分为四组,每组独立应用一个 Visual Single Selective Scanning(VSSS)块,分别沿四个空间方向之一扫描;再通过通道调制算子改善跨通道信息交流。作者还引入基于蒸馏的训练目标,并报告其带来稳定性改善和一致的性能增益。摘要未说明蒸馏教师、具体损失形式及训练配置,这些细节尚未验证。 作者报告在 ImageNet-1K 图像分类、MS-COCO 目标检测与实例分割、ADE20K 语义分割上优于现有方法。其中,23M 参数的 tiny 变体在 ImageNet-1K 分类评估中取得 83.3% top-1 Accuracy;作者称相较同模型规模下最佳现有 Mamba 设计,参数效率改善 26%。摘要未给出该对照模型名称、效率计算口径及完整评估设置,因此不将这一比例解释为计算量或推理速度提升。实验协议、消融及统计信息尚未验证。作者提供了代码与模型地址,但实现和复现条件尚未核验。 平台推测(待验证):假设分组扫描与通道调制能用于 EEG 的长时序建模和跨通道交互,其原始机制依赖视觉空间方向及特征通道结构,不能直接等同于电极拓扑。可复用候选是分组处理、SSM 扫描和通道调制;需要改造扫描轴、分组依据及输入表示。低信噪比、跨被试差异、通道配置变化和小数据可能使分组削弱有效关联,也可能限制蒸馏收益。一个可证伪的小实验是在固定 EEG 数据划分、训练预算及参数量下,对比普通 SSM、分组扫描和加入通道调制的版本,分别检验被试内与跨被试性能及多次训练的波动。该假设不属于论文已验证结果;已有 EEG 相关工作尚未检索确认。
值得核对其分组定向扫描、跨通道调制与蒸馏训练能否分别改善参数效率和训练稳定性,但视觉任务结果不能直接视为 EEG/BCI 有效性证据。
来源:OpenReview · State space models · openreview.net