跳到正文

算法、任务与模态

Mamba 最新动态

Mamba 研究索引；按可核对的标签归档，不以热度评价质量。

226 条精选近 30 天 17 条共收录 304 条

更新

精选归档 · 第 12 页

1月1日周一第 221–226 条
  1. OpenReview · State space models71

    Mamba2MIL：基于状态空间对偶的计算病理学多实例学习

    基于摘要分析。Mamba2MIL 面向计算病理学中全切片图像（WSI）的多实例学习（MIL），旨在改善多样特征融合及序列信息利用。方法结合状态空间对偶模型（SSD）、加权特征选择和适配不同 WSI 大小的序列变换，对长图像块序列进行建模；研究对象是病理图像分类，而非 EEG 或 BCI。 核心机制：SSD 用于处理 WSI 图像块构成的长序列，加权特征选择支持更多分支特征的融合，并允许按应用需求扩展。序列变换旨在增强与顺序无关的特征，同时保留局部序列信息。作者将现有 CNN、注意力及选择性扫描 SSM 框架在特征融合灵活性、可扩展性和顺序信息利用方面的限制作为改进动机，但摘要未给出分支构造、权重计算、变换操作、损失函数及训练细节。 作者报告，在多个数据集上几乎所有性能指标均有提升，并优于所比较的先进 MIL 方法。其中，NSCLC 数据集上的二分类肿瘤任务 AUC 为 0.9533、Accuracy 为 0.8794；BRACS 数据集上的多分类任务 AUC 为 0.7986、Accuracy 为 0.4981。摘要未说明数据划分、具体对照、AUC 汇总方式及统计不确定性，因此这些数值仅能作为各自任务下的报告结果，不能直接跨任务比较。实验协议、消融及统计信息尚未验证。材料提供了代码仓库，但实现完整性与复现条件尚未核对。 平台推测（待验证）：假设将带整体标签的 EEG 记录切分为窗口实例，长序列 MIL 与加权特征融合可能对应长记录聚合及多类窗口特征整合的瓶颈。可尝试复用 SSD 聚合与特征选择机制，但需改造实例编码及序列变换：病理图像块的空间顺序不等同于 EEG 的时间顺序，增强顺序无关特征可能破坏事件时序；低信噪比、通道差异、跨被试变化及小数据训练也可能使权重选择失稳。一个可检验的小实验是在固定 EEG 窗口特征和相同跨被试划分下，对比简单池化、SSD 聚合及加入序列变换的版本，核对聚合收益与时序损失。相关 EEG 工作尚未检索确认，原领域结果不构成 BCI 有效性的证据。

    阅读价值：值得核对其 SSD 长序列建模、加权特征选择与序列变换如何共同改善 WSI 多实例学习；摘要给出了分类结果，但各模块贡献及其对 EEG 的适用性尚未验证。

  2. OpenReview · State space models73

    RSMamba：基于状态空间模型的遥感图像分类

    基于摘要分析。该研究面向遥感场景分类，提出基于状态空间模型（SSM）的 RSMamba，旨在通过全局感受野与线性建模复杂度改善整幅图像的语义理解；其核心贡献是动态多路径激活机制，用于增强 Mamba 对二维非因果数据的建模能力。 机制方面，作者采用 Mamba 的硬件感知设计，并针对其原有因果序列建模方式与二维图像结构之间的不适配引入多路径激活，同时保留原有 Mamba 的建模机制。摘要未提供路径构造、激活规则、图像序列化方式、训练目标及具体架构细节，这些内容尚未验证。作者将其定位为潜在视觉基础模型骨干，但摘要并未展示基础模型预训练或迁移评估。 结果方面，作者报告在 UC Merced、AID、RESISC45 遥感图像分类数据集上的 F1 分别为 95.25、92.63、95.18，并称优于同期 Vim 和 VMamba。摘要未说明数值单位、训练与测试划分、F1 平均方式及对照训练条件，因此不能据此作严格的跨方法比较；实验协议、消融及统计信息尚未验证。材料提供了代码仓库，但实现与论文结果的一致性尚未核对。 平台推测（待验证）：可迁移假设是，多路径机制或可用于离线 EEG 分类中的通道—时间联合建模，缓解单一序列顺序对跨通道关系表达的限制。可考虑复用 SSM 模块，重新设计 EEG 输入表示、通道顺序与路径构造；遥感图像的二维空间结构不能直接等同于 EEG 通道—时间结构。低信噪比、跨被试差异、通道布局变化及小数据规模均可能使收益消失，非因果路径也需与在线 BCI 的因果约束区分。一个可检验的小实验是在固定 Cross-subject 划分与训练预算下，对比单路径 Mamba 和多路径变体的离线 EEG 分类表现，并检查通道顺序扰动后的稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是其以动态多路径激活机制拓展 Mamba 对二维非因果数据的建模能力，但摘要中的遥感分类结果尚不能证明其适用于 EEG 或 BCI。

  3. OpenReview · State space models73

    SMamba：通过可伸缩状态空间模型实现任意尺度超分辨率

    基于摘要分析。研究针对任意尺度超分辨率（ASSR）：用单一模型将低分辨率图像重建为任意目标尺度的高分辨率图像。作者提出正文称为 S³Mamba 的方法，通过 Scalable State Space Model（SSSM）构建可随尺度调整的连续表示空间，并结合尺度感知自注意力提取不同尺度下的重要全局特征。 机制上，摘要将隐式神经表示（INR）描述为连接坐标与像素值、重建连续信号的途径。SSSM 在离散化过程中调制状态转移矩阵及步长采样矩阵，作者称由此实现具有线性计算复杂度的连续尺度建模。尺度感知自注意力用于补充不同尺度下的全局特征感知；具体调制公式、尺度条件的注入方式、训练损失，以及线性复杂度是否涵盖完整网络，尚未验证。 作者报告，在合成与真实场景基准上的实验取得了最先进的性能及任意超分辨率尺度下的泛化能力。摘要未提供基准名称、训练与测试尺度划分、对照方法、指标或数值，因而尚不能核对其提升幅度，或区分已见尺度与未见尺度的泛化。实验协议、消融及统计信息尚未验证；代码与复现条件亦未确认。 平台推测（待验证）：假设该尺度条件化的连续表示机制可用于 EEG 时间轴重采样或缺失采样点重建，其潜在对应问题是不同采样率下的信号表示一致性，而不是直接提升 BCI 分类效果。可考虑复用尺度调制的状态空间模块，但需将二维图像坐标改为时间坐标，并处理通道结构、频带约束与抗混叠；原任务依赖低分辨率输入及高分辨率重建目标，迁移所需监督和数据规模尚不明确。低信噪比、小样本及跨被试差异可能使模型重建伪波形或失真频谱。一个可证伪的小实验是在按被试隔离的数据上，对高采样率 EEG 进行抗混叠降采样，比较该机制与常规插值在未见采样比例下的波形、频谱及下游任务表现。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其通过离散化过程中的状态转移与步长采样调制实现连续尺度建模的机制，尤其是线性复杂度的适用范围及尺度外泛化证据；其对 EEG 的价值尚未验证。

  4. OpenReview · State space models76

    ChangeMamba：基于时空状态空间模型的遥感变化检测

    基于摘要分析。该研究面向遥感变化检测，探索以 Mamba 状态空间模型兼顾全局空间上下文建模与多时相特征交互，针对二元变化检测（BCD）、语义变化检测（SCD）和建筑物损伤评估（BDA），分别提出 MambaBCD、MambaSCD 和 MambaBDA。研究对象是遥感影像，而非 EEG 或 BCI。 机制上，三种框架均采用 Visual Mamba 作为编码器，以学习输入影像的全局空间上下文；共有的变化解码器包含三种时空关系建模机制，用于多时相特征交互及变化信息提取。摘要将其动机归结为 CNN 感受野受限以及 Transformer 训练、部署计算开销较高，但未给出三种机制的具体操作、损失函数或训练配置，也不能据此确认实际计算与内存收益。 作者报告，在五个基准数据集上，所提框架优于所比较的 CNN 和 Transformer 方法，且未使用复杂训练策略或技巧；作者还报告了对退化数据的鲁棒性。摘要未提供数据集名称、划分、指标、数值、退化类型及对照配置，因此结果适用范围、实验协议、消融及统计信息尚未验证。摘要提供了源码仓库，复现仍需核对正文中的预处理、训练设置与评估流程。 平台推测（待验证）：可迁移的假设是利用状态空间建模连接较长上下文，并在配对时段间显式交互；对应 EEG 中长时序依赖及跨时段变化识别问题。可考察状态空间模块与时段交互模块，但需将影像空间扫描改造成适配电极拓扑和时间序列的表示，并重新定义监督目标。低信噪比、通道差异、被试差异与小数据可能使模型学到伪变化；遥感退化鲁棒性不等于 EEG 鲁棒性。一个可检验的小实验是在固定 EEG 时段分类任务和相同数据划分下，对照单时段状态空间编码器与加入配对时段交互的版本，比较任务指标及噪声扰动下的性能变化。已有相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其 Visual Mamba 编码器与多时相变化解码器的配合机制，以考察全局空间建模和时相交互的实现；摘要报告了遥感基准及退化数据结果，但其 EEG/BCI 适用性尚未验证。

  5. OpenReview · State space models71

    RSMamba：基于状态空间模型的遥感图像分类

    基于摘要分析。该研究面向遥感图像场景分类，提出基于状态空间模型（SSM）的 RSMamba，旨在兼顾整幅图像的全局理解与线性建模复杂度；核心贡献是通过动态多路径激活机制增强 Mamba 对非因果二维图像数据的建模能力，而非提出 EEG 或 BCI 方法。 技术机制：摘要将遥感场景的复杂性、多样性及其时空分辨率变化列为分类难点。RSMamba 采用硬件感知的 Mamba 设计，在保留原有建模机制的同时，引入动态多路径激活，以应对原始 Mamba 的因果序列建模方式与二维图像结构之间的不匹配。路径如何构造、动态激活如何实现，以及训练目标和推理流程，摘要未提供细节，尚未验证。 结果与复现：作者报告，RSMamba 在多个遥感图像分类数据集上表现更优，但摘要未给出数据集名称、划分协议、对照配置、指标或数值，不能据此量化优势。作者据此提出其作为未来视觉基础模型骨干的潜力，这不等于已经完成基础模型验证。摘要表示代码将公开，当前可用性尚未验证；实验协议、消融及统计信息亦尚未验证。 平台推测（待验证）：若多路径机制确实能够减少单一序列顺序对建模的限制，则可能为离线 EEG 的时间—通道联合建模提供参考。可考虑复用 SSM 建模模块，但图像路径需改造成符合电极拓扑与时间结构的路径，分类输入和任务监督也需适配。低信噪比、通道布局变化、跨被试差异及小样本训练可能削弱收益；非因果建模还需与在线 BCI 的因果约束区分。一个可检验的小实验是在固定 EEG 数据划分、预处理及训练预算下，对照单路径 Mamba 与多路径变体，分别检查被试内和跨被试表现，并测试通道扰动下的稳定性。以上仅为机制迁移假设，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是其以动态多路径激活机制扩展 Mamba 对非因果二维数据的建模能力，但性能优势及其对 EEG 的迁移价值仍需分别验证。

9月22日周五
  1. OpenReview · State space models86

    Mamba：基于选择性状态空间的线性时间序列建模

    Mamba 针对长序列模型计算效率与内容依赖推理能力之间的矛盾，通过输入依赖的选择性状态空间模型（SSM）构建不含注意力和 MLP 模块的序列建模架构。基于摘要分析，原论文主要研究语言、音频和基因组学等模态，并非 EEG 或 BCI 方法。 核心机制是让 SSM 参数成为输入的函数，使模型根据当前 token 沿序列维度选择性传播或遗忘信息。作者认为，这可缓解既有次二次时间架构在离散模态上缺乏内容依赖推理能力的问题。由于输入依赖参数使原有高效卷积计算不再适用，作者设计了硬件感知的递归模式并行算法，并将选择性 SSM 整合进 Mamba。具体参数化、训练目标与实现细节尚未验证。 作者报告，Mamba 的计算随序列长度线性扩展，推理吞吐量为 Transformer 的 5 倍，并在真实数据上观察到性能随序列长度增加而改善，最长涉及百万长度序列；摘要未提供该吞吐量比较的硬件、批量、序列长度及基线配置，不能据此推断任意部署条件下的加速效果。在语言建模的预训练及下游评估中，作者报告 Mamba-1.4B 超过同规模 Transformer，并匹配两倍规模的 Transformer。作者还报告其在语言、音频和基因组学等模态达到当时最先进表现，但数据集、具体指标、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 任务需要从长时间序列中保留任务相关片段并抑制无关信息，输入依赖的状态更新可能提供可复用机制。可复用部分是选择性 SSM 与长序列计算框架；需改造 EEG 输入表示、通道融合及任务输出。低信噪比可能使选择机制追随伪迹，跨被试差异和小数据训练也可能削弱效果。一个可检验的小实验是在固定数据划分、预处理与训练预算下，比较选择性 SSM、非选择性 SSM 和 Transformer 的任务指标、吞吐量及显存占用，并检查噪声扰动下的稳定性。已有 EEG 相关工作尚未检索确认，原领域结果不构成 BCI 有效性的证据。

    阅读价值：值得阅读其输入依赖的选择性状态空间机制与硬件感知递归计算设计，以评估长序列建模的效率—性能取舍；其对 EEG 的适用性尚未验证。