跳到正文

算法、任务与模态

Mamba 最新动态

Mamba 研究索引;按可核对的标签归档,不以热度评价质量。

347 条精选近 30 天 26 条共收录 479 条

更新

精选归档 · 第 18 页

1月1日周一第 341–347 条
  1. OpenReview · State space models73

    RSMamba:基于状态空间模型的遥感图像分类

    基于摘要分析。该研究面向遥感场景分类,提出基于状态空间模型(SSM)的 RSMamba,旨在通过全局感受野与线性建模复杂度改善整幅图像的语义理解;其核心贡献是动态多路径激活机制,用于增强 Mamba 对二维非因果数据的建模能力。 机制方面,作者采用 Mamba 的硬件感知设计,并针对其原有因果序列建模方式与二维图像结构之间的不适配引入多路径激活,同时保留原有 Mamba 的建模机制。摘要未提供路径构造、激活规则、图像序列化方式、训练目标及具体架构细节,这些内容尚未验证。作者将其定位为潜在视觉基础模型骨干,但摘要并未展示基础模型预训练或迁移评估。 结果方面,作者报告在 UC Merced、AID、RESISC45 遥感图像分类数据集上的 F1 分别为 95.25、92.63、95.18,并称优于同期 Vim 和 VMamba。摘要未说明数值单位、训练与测试划分、F1 平均方式及对照训练条件,因此不能据此作严格的跨方法比较;实验协议、消融及统计信息尚未验证。材料提供了代码仓库,但实现与论文结果的一致性尚未核对。 平台推测(待验证):可迁移假设是,多路径机制或可用于离线 EEG 分类中的通道—时间联合建模,缓解单一序列顺序对跨通道关系表达的限制。可考虑复用 SSM 模块,重新设计 EEG 输入表示、通道顺序与路径构造;遥感图像的二维空间结构不能直接等同于 EEG 通道—时间结构。低信噪比、跨被试差异、通道布局变化及小数据规模均可能使收益消失,非因果路径也需与在线 BCI 的因果约束区分。一个可检验的小实验是在固定 Cross-subject 划分与训练预算下,对比单路径 Mamba 和多路径变体的离线 EEG 分类表现,并检查通道顺序扰动后的稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是其以动态多路径激活机制拓展 Mamba 对二维非因果数据的建模能力,但摘要中的遥感分类结果尚不能证明其适用于 EEG 或 BCI。

  2. OpenReview · State space models72

    MamMIL:基于状态空间模型的全切片图像多实例学习

    基于摘要分析。该研究面向病理全切片图像(WSIs)的多实例学习(MIL),旨在解决超大图像中实例全局依赖建模与计算效率之间的矛盾。作者提出 MamMIL,将选择性结构化状态空间模型 Mamba 与 MIL 结合,以线性复杂度建模全局实例依赖;这是一项病理图像分析方法,并非已验证的 BCI 方法。 核心机制包括三个环节:首先,针对组织区域的不规则性,将每张 WSI 表示为无向图;其次,通过拓扑感知扫描将图序列化,使只能处理一维序列的 Mamba 能够利用实例间的拓扑关系;最后,以图神经网络构建实例聚合块,进一步感知拓扑结构并纳入短程特征交互。相较于摘要所讨论的不建模全局依赖或采用线性注意力近似实例两两交互的方法,其可核对的技术重点是图结构、序列扫描与局部聚合的协同,而非单纯替换序列编码器。 作者报告 MamMIL 的性能优于所比较的先进框架,但摘要未提供数据集、样本量、划分协议、指标、具体数值及基线名称,不能据此量化优势。实验协议、消融及统计信息尚未验证;图的构建方式、扫描规则、特征提取流程及线性复杂度的具体计算范围也需查阅全文。摘要提供了代码仓库地址,代码内容、运行条件与结果可复现性尚未核验。 平台推测(待验证):若 EEG 任务可合理表示为由通道或时空片段组成、以样本级标签监督的实例图,该机制可能用于兼顾长程依赖与局部连接建模。可复用的是图序列化和状态空间聚合思路;实例定义、图边、扫描顺序及特征编码需按 EEG 的空间与时间结构改造。低信噪比、跨被试差异、通道布局变化和小数据可能使图结构或扫描顺序失效。一个可检验的小实验是在固定特征提取器和跨被试划分下,对比拓扑感知扫描、随机扫描及去除图聚合的版本,检验结构设计是否带来稳定增益。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性的证据。

    阅读价值:值得阅读的是其将不规则实例图通过拓扑感知扫描转换为 Mamba 序列、并结合图神经网络聚合局部交互的机制,但性能优势及向 EEG 任务迁移的有效性尚需验证。

  3. OpenReview · State space models73

    SMamba:通过可伸缩状态空间模型实现任意尺度超分辨率

    基于摘要分析。研究针对任意尺度超分辨率(ASSR):用单一模型将低分辨率图像重建为任意目标尺度的高分辨率图像。作者提出正文称为 S³Mamba 的方法,通过 Scalable State Space Model(SSSM)构建可随尺度调整的连续表示空间,并结合尺度感知自注意力提取不同尺度下的重要全局特征。 机制上,摘要将隐式神经表示(INR)描述为连接坐标与像素值、重建连续信号的途径。SSSM 在离散化过程中调制状态转移矩阵及步长采样矩阵,作者称由此实现具有线性计算复杂度的连续尺度建模。尺度感知自注意力用于补充不同尺度下的全局特征感知;具体调制公式、尺度条件的注入方式、训练损失,以及线性复杂度是否涵盖完整网络,尚未验证。 作者报告,在合成与真实场景基准上的实验取得了最先进的性能及任意超分辨率尺度下的泛化能力。摘要未提供基准名称、训练与测试尺度划分、对照方法、指标或数值,因而尚不能核对其提升幅度,或区分已见尺度与未见尺度的泛化。实验协议、消融及统计信息尚未验证;代码与复现条件亦未确认。 平台推测(待验证):假设该尺度条件化的连续表示机制可用于 EEG 时间轴重采样或缺失采样点重建,其潜在对应问题是不同采样率下的信号表示一致性,而不是直接提升 BCI 分类效果。可考虑复用尺度调制的状态空间模块,但需将二维图像坐标改为时间坐标,并处理通道结构、频带约束与抗混叠;原任务依赖低分辨率输入及高分辨率重建目标,迁移所需监督和数据规模尚不明确。低信噪比、小样本及跨被试差异可能使模型重建伪波形或失真频谱。一个可证伪的小实验是在按被试隔离的数据上,对高采样率 EEG 进行抗混叠降采样,比较该机制与常规插值在未见采样比例下的波形、频谱及下游任务表现。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其通过离散化过程中的状态转移与步长采样调制实现连续尺度建模的机制,尤其是线性复杂度的适用范围及尺度外泛化证据;其对 EEG 的价值尚未验证。

  4. OpenReview · State space models76

    ChangeMamba:基于时空状态空间模型的遥感变化检测

    基于摘要分析。该研究面向遥感变化检测,探索以 Mamba 状态空间模型兼顾全局空间上下文建模与多时相特征交互,针对二元变化检测(BCD)、语义变化检测(SCD)和建筑物损伤评估(BDA),分别提出 MambaBCD、MambaSCD 和 MambaBDA。研究对象是遥感影像,而非 EEG 或 BCI。 机制上,三种框架均采用 Visual Mamba 作为编码器,以学习输入影像的全局空间上下文;共有的变化解码器包含三种时空关系建模机制,用于多时相特征交互及变化信息提取。摘要将其动机归结为 CNN 感受野受限以及 Transformer 训练、部署计算开销较高,但未给出三种机制的具体操作、损失函数或训练配置,也不能据此确认实际计算与内存收益。 作者报告,在五个基准数据集上,所提框架优于所比较的 CNN 和 Transformer 方法,且未使用复杂训练策略或技巧;作者还报告了对退化数据的鲁棒性。摘要未提供数据集名称、划分、指标、数值、退化类型及对照配置,因此结果适用范围、实验协议、消融及统计信息尚未验证。摘要提供了源码仓库,复现仍需核对正文中的预处理、训练设置与评估流程。 平台推测(待验证):可迁移的假设是利用状态空间建模连接较长上下文,并在配对时段间显式交互;对应 EEG 中长时序依赖及跨时段变化识别问题。可考察状态空间模块与时段交互模块,但需将影像空间扫描改造成适配电极拓扑和时间序列的表示,并重新定义监督目标。低信噪比、通道差异、被试差异与小数据可能使模型学到伪变化;遥感退化鲁棒性不等于 EEG 鲁棒性。一个可检验的小实验是在固定 EEG 时段分类任务和相同数据划分下,对照单时段状态空间编码器与加入配对时段交互的版本,比较任务指标及噪声扰动下的性能变化。已有相关 EEG 工作尚未检索确认。

    阅读价值:值得阅读其 Visual Mamba 编码器与多时相变化解码器的配合机制,以考察全局空间建模和时相交互的实现;摘要报告了遥感基准及退化数据结果,但其 EEG/BCI 适用性尚未验证。

  5. OpenReview · State space models74

    KalMamba:面向不确定性下强化学习的高效概率状态空间模型

    基于摘要分析。该研究面向高维、部分可观测信息下的强化学习(RL),提出 KalMamba,旨在兼顾概率状态空间模型(SSM)的控制表征能力与 S4、Mamba 等确定性 SSM 的计算效率。主要研究对象是 RL 中的潜在状态表征与推断,并非 EEG 或 BCI。 核心机制是利用 Mamba 学习潜在空间中线性高斯 SSM 的动力学参数,再通过标准 Kalman filtering 和 smoothing 完成潜在状态推断。作者采用并行关联扫描实现这些推断操作,以提高概率 SSM 的计算效率和可扩展性。摘要未说明具体参数化方式、训练目标、观测模型或控制策略如何接入,相关实现尚未验证。 作者报告,在所开展的 RL 实验中,KalMamba 与当前先进 SSM 方法具有竞争力,同时显著提高计算效率,尤其是在较长交互序列上。摘要未提供任务、数据规模、对照方法、性能指标或耗时数值,因此不能量化其收益,也不能据此认定全面优于现有方法。实验协议、消融及统计信息尚未验证;复现还需核对代码可用性、硬件条件与并行推断实现。 平台推测(待验证):若 EEG 任务可建模为由含噪观测推断连续潜在状态,该机制可能用于长序列状态估计;可复用部分是动力学参数学习与 Kalman 推断,需改造部分是 EEG 观测编码、观测模型及任务监督。原方法依赖潜在空间的线性高斯建模,EEG 的非平稳性、低信噪比、跨被试差异、通道变化和小数据可能使这些假设失效。一个可检验的小实验是在固定 EEG 数据与被试内划分下,对比 KalMamba 式模型、常规线性高斯 SSM 与确定性 Mamba,统一训练预算,并随序列长度评估任务指标、推断耗时及不确定性校准;在线任务必须单独评估只用历史观测的 filtering,不能混用 smoothing 结果。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其将 Mamba 动力学参数学习与可并行 Kalman 推断结合的实现,以及长交互序列下计算效率的评估条件;其对 EEG 状态估计的价值尚未验证。

  6. OpenReview · State space models71

    RSMamba:基于状态空间模型的遥感图像分类

    基于摘要分析。该研究面向遥感图像场景分类,提出基于状态空间模型(SSM)的 RSMamba,旨在兼顾整幅图像的全局理解与线性建模复杂度;核心贡献是通过动态多路径激活机制增强 Mamba 对非因果二维图像数据的建模能力,而非提出 EEG 或 BCI 方法。 技术机制:摘要将遥感场景的复杂性、多样性及其时空分辨率变化列为分类难点。RSMamba 采用硬件感知的 Mamba 设计,在保留原有建模机制的同时,引入动态多路径激活,以应对原始 Mamba 的因果序列建模方式与二维图像结构之间的不匹配。路径如何构造、动态激活如何实现,以及训练目标和推理流程,摘要未提供细节,尚未验证。 结果与复现:作者报告,RSMamba 在多个遥感图像分类数据集上表现更优,但摘要未给出数据集名称、划分协议、对照配置、指标或数值,不能据此量化优势。作者据此提出其作为未来视觉基础模型骨干的潜力,这不等于已经完成基础模型验证。摘要表示代码将公开,当前可用性尚未验证;实验协议、消融及统计信息亦尚未验证。 平台推测(待验证):若多路径机制确实能够减少单一序列顺序对建模的限制,则可能为离线 EEG 的时间—通道联合建模提供参考。可考虑复用 SSM 建模模块,但图像路径需改造成符合电极拓扑与时间结构的路径,分类输入和任务监督也需适配。低信噪比、通道布局变化、跨被试差异及小样本训练可能削弱收益;非因果建模还需与在线 BCI 的因果约束区分。一个可检验的小实验是在固定 EEG 数据划分、预处理及训练预算下,对照单路径 Mamba 与多路径变体,分别检查被试内和跨被试表现,并测试通道扰动下的稳定性。以上仅为机制迁移假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是其以动态多路径激活机制扩展 Mamba 对非因果二维数据的建模能力,但性能优势及其对 EEG 的迁移价值仍需分别验证。

9月22日周五
  1. OpenReview · State space models86

    Mamba:基于选择性状态空间的线性时间序列建模

    Mamba 针对长序列模型计算效率与内容依赖推理能力之间的矛盾,通过输入依赖的选择性状态空间模型(SSM)构建不含注意力和 MLP 模块的序列建模架构。基于摘要分析,原论文主要研究语言、音频和基因组学等模态,并非 EEG 或 BCI 方法。 核心机制是让 SSM 参数成为输入的函数,使模型根据当前 token 沿序列维度选择性传播或遗忘信息。作者认为,这可缓解既有次二次时间架构在离散模态上缺乏内容依赖推理能力的问题。由于输入依赖参数使原有高效卷积计算不再适用,作者设计了硬件感知的递归模式并行算法,并将选择性 SSM 整合进 Mamba。具体参数化、训练目标与实现细节尚未验证。 作者报告,Mamba 的计算随序列长度线性扩展,推理吞吐量为 Transformer 的 5 倍,并在真实数据上观察到性能随序列长度增加而改善,最长涉及百万长度序列;摘要未提供该吞吐量比较的硬件、批量、序列长度及基线配置,不能据此推断任意部署条件下的加速效果。在语言建模的预训练及下游评估中,作者报告 Mamba-1.4B 超过同规模 Transformer,并匹配两倍规模的 Transformer。作者还报告其在语言、音频和基因组学等模态达到当时最先进表现,但数据集、具体指标、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务需要从长时间序列中保留任务相关片段并抑制无关信息,输入依赖的状态更新可能提供可复用机制。可复用部分是选择性 SSM 与长序列计算框架;需改造 EEG 输入表示、通道融合及任务输出。低信噪比可能使选择机制追随伪迹,跨被试差异和小数据训练也可能削弱效果。一个可检验的小实验是在固定数据划分、预处理与训练预算下,比较选择性 SSM、非选择性 SSM 和 Transformer 的任务指标、吞吐量及显存占用,并检查噪声扰动下的稳定性。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性的证据。

    阅读价值:值得阅读其输入依赖的选择性状态空间机制与硬件感知递归计算设计,以评估长序列建模的效率—性能取舍;其对 EEG 的适用性尚未验证。