跳到正文
OpenReview · State space models· Hang Guo; Yong Guo; Yaohua Zha; Yulun Zhang; Wenbo Li; Tao Dai; Shu-Tao Xia; Yawei Li·· 2025-01-01精选AI 评分78

MambaIRv2:注意力状态空间图像复原

MambaIRv2: Attentive State Space Restoration

AI 导读

基于摘要分析。该研究针对 Mamba 图像复原骨干中每个 token 只能依赖扫描序列前序 token 的限制,提出 MambaIRv2,通过注意力状态空间机制引入非因果建模能力,并利用语义引导的邻近机制促进远距离相似像素交互。主要研究对象是图像复原,而非 EEG 或 BCI。 核心机制:作者提出的 attentive state-space equation 允许模型关注扫描序列之外的信息,旨在通过单次扫描完成图像展开与信息交互;semantic-guided neighboring mechanism 则使空间距离较远但语义相似的像素建立联系。摘要将其非因果建模能力类比于 ViTs,但未提供具体方程、邻近关系构造方法、训练损失及计算复杂度,不能据此认定其等同于标准自注意力或已解决全部扫描方向问题。 作者报告:在轻量级超分辨率(lightweight SR)任务中,相较 SRFormer,MambaIRv2 的 PSNR 提高 0.35 dB,参数量减少 9.3%;在经典超分辨率(classic SR)任务中,相较 HAT,PSNR 最多提高 0.29 dB。摘要未给出这些结果对应的数据集、放大倍率、训练与测试划分或具体模型配置,两类任务的收益不能直接合并比较。实验协议、消融及统计信息尚未验证,也无法仅据摘要判断参数减少是否对应运行时间或显存收益。 平台推测(待验证):若 EEG 离线去噪中存在可利用的跨时间或跨通道相似结构,非因果状态空间交互和相似性引导邻近机制可能具有复用价值。其原始依赖是图像像素及语义相似关系;迁移时需重新设计 EEG token 表示、通道位置编码与相似性定义,而不能直接将像素语义对应为神经活动。低信噪比可能使邻近机制连接伪迹,被试差异、通道布局变化和小数据也可能降低稳定性;非因果信息使用不适合直接视为在线 BCI 能力。 可检验的小实验是假设性地在固定 Cross-subject 划分与相同去噪监督下,对比因果状态空间基线、非因果变体及加入相似性邻近机制的变体,检验去噪误差与下游解码性能是否同时改善,并核对推理成本。该建议并非论文已验证结果;相关 EEG 工作尚未检索确认。

阅读价值

值得阅读其突破 Mamba 扫描序列因果限制、连接远距离相似像素的机制,但图像复原收益能否迁移到 EEG 去噪仍需独立验证。

来源:OpenReview · State space models · openreview.net