跳到正文

算法、任务与模态

SSM 最新动态

SSM 研究索引;按可核对的标签归档,不以热度评价质量。

119 条精选近 30 天 15 条共收录 158 条

更新

精选归档 · 第 5 页

9月18日周三第 81–100 条
  1. OpenReview · State space models78

    状态空间模型的参数高效微调

    基于摘要分析。本文研究 Mamba 等深度状态空间模型(SSMs)的参数高效微调(PEFT),重点比较现有方法的适用性及微调模块的选择,并提出 LoRA with Selective Dimension tuning(SDLoRA),将线性投影矩阵上的 LoRA 与 SSM 模块中部分通道和状态的选择性更新结合。 作者报告,在 SSM 模型上对四种基本 PEFT 方法进行经验评估后,prompt-based 方法(如 prefix-tuning)效果不佳,理论分析也支持这一观察;相比之下,LoRA 仍然有效。针对 LoRA 的应用位置,作者报告,理论与实验均支持仅将 LoRA 应用于线性投影矩阵、而不修改 SSM 模块的配置效果最好,直接以 LoRA 微调 SSM 模块则效果不佳。SDLoRA 并非在 SSM 模块中简单增加 LoRA,而是对其中部分通道和状态进行选择性更新,同时保留投影矩阵上的 LoRA。作者报告,该组合优于标准 LoRA,但摘要未提供具体任务、数据集、指标或增益幅度。 需核对的关键细节包括:四种 PEFT 方法的完整设置、通道与状态的选择规则、可训练参数预算及其匹配方式,以及理论结论的适用条件。实验协议、消融及统计信息尚未验证,不能据此判断其在不同模型规模或任务上的普适性。 平台推测(待验证):若已有预训练 EEG SSM 编码器,该机制可能用于缓解跨被试适配中训练样本有限、全量微调成本较高的问题。可复用的是投影矩阵 LoRA 和 SSM 维度选择性更新的思路;需改造的是 EEG 输入映射、任务输出头及维度选择策略。其原始论证背景为语言建模中的 SSM,摘要未说明依赖的预训练规模或下游监督条件;低信噪比、通道配置变化和个体差异可能使所选维度不稳定。一个可证伪的小实验是在固定预训练编码器和 Cross-subject 划分下,以匹配的可训练参数预算比较投影矩阵 LoRA 与 SDLoRA,并检查多次运行的稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值:该研究通过经验比较与理论分析区分 SSM 模块和线性投影矩阵的微调适用性,为复现 Mamba 类模型的 PEFT 提供了具体切入点,但实验协议与性能增益尚待全文核对。

8月20日周二
  1. OpenReview · State space models80

    谱状态空间模型

    基于摘要分析。本文研究具有长程依赖的序列预测,提出基于 spectral filtering algorithm(Hazan et al. 2017)学习线性动力系统的状态空间模型(SSM)新表述,并据此构建 spectral state space model。 核心机制是使用固定、无需学习的卷积滤波器进行序列建模;这不意味着模型全部参数均固定。作者报告,该方法具有可证明的鲁棒性,其性能不依赖底层动力系统的谱或问题维度,并在理论与实践中优于所比较的 SSM。上述保证的具体定义、假设、误差界及比较对象尚未验证,不能据摘要解读为对任意数据均无条件成立。 作者报告,在合成动力系统及不同模态的长程预测任务上的评估支持谱滤波处理极长记忆需求的优势。摘要未提供具体数据集、数据划分、指标、结果数值或基线配置;实验协议、消融及统计信息尚未验证,实现与复现条件也需查阅全文。 平台推测(待验证):假设 EEG 任务确实依赖较长时间跨度的信息,固定时间卷积滤波器可能作为长程时序模块复用。原方法围绕线性动力系统与序列预测展开,对 EEG 的迁移需明确输入采样结构、预测监督及训练规模,并改造多通道输入与任务输出;固定滤波器不等于 EEG 频带滤波。低信噪比、跨被试非平稳性、通道差异与小数据可能削弱其收益。可检验的小实验是在预先固定的跨被试划分下,将该模块与一个 SSM 基线用于同一 EEG 预测任务,保持输入窗口和训练预算一致,比较不同窗口长度下的预测误差,以检验更长上下文是否带来稳定收益。该方案仅为迁移假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对谱滤波如何在固定卷积滤波器下提供长程记忆及鲁棒性保证,但其理论适用条件与 EEG 迁移效果尚未验证。

7月21日周日
  1. OpenReview · State space models73

    DGMamba:通过广义状态空间模型实现域泛化

    基于摘要分析。DGMamba 针对视觉域泛化中的分布偏移问题,试图在保留 Mamba 全局感受野与线性复杂度优势的同时,通过隐藏状态抑制及语义感知图像块处理,提高对未见域的泛化能力。 核心机制包括 Hidden State Suppressing(HSS)与 Semantic-aware Patch Refining(SPR)。HSS 旨在减弱与域特有特征关联的隐藏状态对输出预测的影响。SPR 则鼓励模型关注对象而非背景,包含 Prior-Free Scanning(PFS)和 Domain Context Interchange(DCI):PFS 打乱图像中的非语义 patches,以调整图像序列的组织方式;DCI 跨域融合 patches,通过组合不匹配的非语义与语义信息对 Mamba 进行正则化。摘要未说明语义区域如何识别、隐藏状态如何抑制,以及具体损失和训练流程,这些实现细节尚未验证。 作者报告,在四个常用 DG benchmark 上,DGMamba 优于现有先进模型;但摘要未提供 benchmark 名称、数据划分、指标数值或对照配置,不能据此量化收益或判断比较条件。实验协议、消融及统计信息尚未验证。作者表示代码将公开,当前材料不能确认代码已发布。 平台推测(待验证):可检验的迁移假设是,HSS 或可用于削弱 EEG 中与被试或会话相关、但与任务无关的状态信息。原方法依赖图像 patches 的语义与背景区分及跨域重组,迁移时需重新定义 EEG 时段或通道片段的任务相关性,并核对是否依赖额外监督或较大数据规模;不能直接套用对象与背景划分。低信噪比、小数据及通道差异可能导致任务信号被误抑制,片段打乱也可能破坏时序结构。一个小规模可证伪实验是:在相同 Cross-subject 划分与训练预算下比较 Mamba 基线和仅加入 HSS 的版本,保持测试被试不可见,检验泛化收益是否稳定。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其对域相关隐藏状态的抑制与语义、背景重组机制能否真正改善未见域泛化,但摘要尚不足以验证性能优势或 EEG 迁移价值。

7月10日周三
  1. OpenReview · State space models78

    MambaByte:无分词的选择性状态空间模型

    基于摘要分析。MambaByte 研究直接从原始字节学习的 token-free 语言建模:去除子词分词的归纳偏置,却也使序列显著变长。其核心贡献是将 Mamba 状态空间模型(SSM)适配为在字节序列上自回归训练的语言模型,并设计结合 tokenized drafting 与 byte-level verification 的推测解码方案。 机制上,摘要将标准自回归 Transformer 随序列长度增长的有效内存需求,与 Mamba 的固定大小记忆状态和高效解码进行对比。MambaByte 利用后者应对字节级长序列;解码阶段由分词模型生成草稿,再进行字节级验证。具体状态更新、训练损失、草稿模型配置与验证规则尚未验证。 作者报告,在语言建模任务上,MambaByte 可与先进的子词 Transformer 竞争,部分比较中甚至表现更好,同时保留 token-free 模型对噪声的鲁棒性。作者报告,相对于标准 MambaByte 实现,其推测解码方案实现 2.6× 推理加速,解码效率接近子词 Mamba。摘要未提供数据集、模型规模、性能指标、硬件、批量大小及序列长度,因此这些效果与速度结论的适用范围,以及实验协议、消融及统计信息尚未验证。 平台推测(待验证):迁移假设是,固定大小状态的序列处理机制可能缓解长时程 EEG 建模的计算与内存压力,但原任务依赖离散字节及自回归监督,并不等价于连续、多通道 EEG。可考察复用 SSM 序列模块,输入表示、通道融合与任务输出需改造;字节级验证方案不能直接照搬。低信噪比、跨被试差异、通道变化与小数据训练可能削弱收益。一个可证伪的小实验是在同一 EEG 数据划分与匹配训练预算下,对比 SSM 与 Transformer 随输入时长变化的任务性能、峰值内存及推理耗时;仅降低资源消耗不能证明解码效果改善。相关 EEG 工作尚未检索确认。

    阅读价值:值得阅读其以固定大小状态处理长字节序列、并结合 tokenized drafting 与 byte-level verification 加速解码的机制,但语言建模效果与效率结论仍需核对全文实验协议。

6月18日周二
  1. OpenReview · State space models78

    谱状态空间模型

    基于摘要分析。该研究面向具有长程依赖的序列预测任务,提出基于 spectral filtering 算法学习线性动力系统的状态空间模型(SSMs)新表述,并由此构建 spectral state space model。其核心特点是采用无需学习的固定卷积滤波器,将谱滤波机制用于长记忆序列建模。 理论与实验:作者报告,该模型对需要长记忆的任务具有可证明的鲁棒性性质,并在合成动力系统及不同模态的长程预测任务上进行评估;作者认为这些评估支持 spectral filtering 在超长记忆任务中的理论优势。摘要未给出鲁棒性的具体定义、假设条件、滤波器构造、训练目标或推理流程,也未列出数据集、划分、对照基线和定量指标,实验协议、消融及统计信息尚未验证。阅读全文时应重点核对理论保证覆盖的动力系统范围,以及固定滤波器相对可学习机制的收益与限制。 平台推测(待验证):迁移假设是,固定谱滤波器可能为 EEG 中长程时间依赖的提取提供可复用的时间建模模块,但原领域有效不等于 BCI 有效。其原始机制依赖序列数据及线性动力系统学习表述,所需监督形式与数据规模尚未验证;用于 EEG 时仍需适配多通道输入、任务输出及跨被试差异。低信噪比、非平稳性、通道配置变化和小数据可能削弱固定滤波器的适配能力。一个可证伪的小实验是在同一 EEG 任务、相同预处理与固定划分下,对比固定谱滤波模块与可学习时间滤波模块,分别记录被试内、跨被试结果,并检查延长输入窗口是否稳定带来收益。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对固定卷积滤波器与长记忆鲁棒性之间的理论联系及其适用条件,但摘要尚不足以判断其对 EEG 长程建模的实际收益。

  2. OpenReview · State space models75

    ProtMamba:一种感知同源性但无需序列比对的蛋白质状态空间模型

    基于摘要分析。ProtMamba 针对蛋白质设计中如何利用同源序列的进化信息、同时避免依赖不完善的多序列比对构建流程这一问题,提出基于 Mamba 的蛋白质语言模型。其核心贡献是将拼接的同源序列作为长上下文输入,在不进行序列比对的情况下建模同源信息。 机制与训练:模型在大规模拼接同源序列数据上训练,通过 fill-in-the-middle 目标结合自回归与掩码语言建模。作者报告,相比基于注意力的模型,ProtMamba 能高效处理包含数百条蛋白质序列的长上下文。摘要未给出数据集名称、具体规模、模型参数量、目标实现及计算效率测量条件,这些信息尚未验证。 结果与证据边界:作者报告模型可用于新序列生成和适应度预测,并在模型规模较小的情况下取得与其他蛋白质语言模型有竞争力的表现,认为这体现了长上下文条件信息的重要性。具体指标、对照模型、数据划分、同源关系控制、消融及统计信息尚未验证,因此不能据此判断性能提升幅度或将效果单独归因于 Mamba、同源上下文或训练目标。 平台推测(待验证):其长上下文条件建模机制可能为 EEG 中利用多段相关记录提供思路,但蛋白质同源序列的进化关系并不等同于跨被试或跨会话的 EEG 关联。迁移假设依赖可靠的记录分组与上下文构造,需要改造连续信号表示、通道编码和训练目标;低信噪比、通道差异及小数据可能使长上下文引入无关信息。一个可检验的小实验是在固定 EEG 任务与数据划分下,比较相关记录上下文、随机记录上下文和无上下文条件,检验收益是否来自上下文相关性。该实验仅为迁移假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的具体原因是 ProtMamba 以无需多序列比对的同源序列长上下文建模探索进化信息利用,并结合 fill-in-the-middle 训练目标;其性能与规模优势仍需结合全文中的评估协议和对照核验。

1月1日周一
  1. OpenReview · State space models75

    Coupled Mamba:通过耦合状态空间模型增强多模态融合

    基于摘要分析。该研究针对多模态融合中复杂的模态内与模态间关联,提出 Coupled SSM,并构建 Coupled Mamba,在保留模态内状态演化过程独立性的同时耦合不同模态的状态链,试图兼顾跨模态交互建模与硬件感知并行计算。 核心机制是跨模态隐状态转移:当前状态依赖本模态状态链及相邻状态链在前一时间步的状态。为适配硬件感知并行设计,作者通过引入历史状态、推导状态方程得到全局卷积核。其可核对的机制特点是将模态交互引入状态演化过程;具体耦合拓扑、参数化方式、训练目标及并行实现细节尚未验证。 作者报告,在 CMU-MOSEI、CH-SIMS、CH-SIMSV2 的多域输入实验中,相较摘要所称的当前先进方法,三个数据集的 F1-Score 分别提高 0.4%、0.9% 和 2.3%;摘要未明确这些百分比表示相对增幅还是百分点差值,因此不能转换解读。作者还报告推理速度提升 49%、GPU 显存节省 83.7%,但对应基线、硬件、输入规模及测量条件尚未验证。数据划分、实验协议、消融及统计信息均需结合全文核对。 平台推测(待验证):该机制可能适用于具有时间对应关系的 EEG 与其他模态序列融合,但原任务结果不等于 BCI 有效。可复用的是跨模态状态耦合思路;需改造输入编码、采样率对齐和缺失模态处理。EEG 低信噪比、跨被试差异及小数据条件可能使耦合传播噪声或增加过拟合风险。一个可检验的小实验是在同一同步多模态数据集与相同跨被试划分下,对比独立状态链、简单后期融合与耦合状态链,并检验单模态受噪声污染时的性能变化。相关 EEG 工作尚未检索确认。

    阅读价值:值得核对其跨模态状态耦合与硬件并行实现:摘要给出了具体的状态交互机制及效果、效率结果,但比较基线与评估协议仍需全文验证。

  2. OpenReview · EEG73

    EEGMamba:用于 EEG 分类的双向状态空间模型与混合专家

    基于摘要分析。EEGMamba 面向不同任务中 EEG 信号长度、通道数不一致,以及 Transformer 长序列建模计算开销较大的问题,将 Spatio-Temporal-Adaptive(ST-Adaptive)模块、Bidirectional Mamba 和 Mixture of Experts(MoE)整合为统一的多任务 EEG 分类框架。 机制上,ST-Adaptive 通过空间自适应卷积对不同长度和通道数的 EEG 进行统一特征提取,并引入 class token 实现时间维度适配;摘要未说明具体的长度对齐与通道映射方式。Bidirectional Mamba 用于进一步提取 EEG 特征,作者旨在兼顾长序列处理的分类准确性与推理速度。Task-aware MoE 配置一个通用专家,以建模不同任务 EEG 的差异与共性;专家路由、任务信息如何输入以及训练损失尚未验证。 作者报告,在八个公开 EEG 数据集上进行了测试,覆盖癫痫发作检测、情绪识别、睡眠分期和运动想象四类任务,并报告性能优于对照方法。摘要未提供数据集名称、被试规模、评价指标、具体分数或对照基线,也未明确被试内、跨被试、跨会话或跨数据集划分,因此不能据此确认对未见任务的泛化能力,或量化准确性与速度之间的收益。 复现时应重点核对多任务联合训练与评估协议、异构通道和序列长度的处理,以及 ST-Adaptive、双向建模和通用专家各自的贡献;推理效率比较还需结合输入长度、硬件与计时条件。实验协议、消融及统计信息尚未验证。摘要称代码将于近期发布,当前材料不能确认代码已公开。

    阅读价值:值得核对 EEGMamba 如何通过输入适配、双向状态空间建模和任务感知专家机制处理异构 EEG,但其跨任务泛化与推理效率优势仍需结合全文中的训练划分和对照实验验证。

  3. OpenReview · State space models71

    TrackSSM:基于状态空间模型的通用运动预测器

    基于摘要分析。TrackSSM 针对多目标跟踪(MOT)中运动模型难以兼顾效率与跨场景有效性的问题,提出基于数据依赖状态空间模型(SSM)的统一编码器—解码器框架,利用历史轨迹预测目标边界框的时间位置,为轨迹关联提供位置信息。 核心模块 Flow-SSM 以历史轨迹的位置及运动信息引导边界框的时间状态转移。运动编码器使用 Mamba-Block 编码历史轨迹,flow decoder 则通过级联的 Flow-SSM 运动解码模块,利用编码后的 flow 信息完成位置预测。训练采用 Step-by-Step Linear(S²L)策略:在目标前一帧与当前帧的位置之间进行线性插值,构造逐步线性训练的伪标签,以引导边界框的时间转移。这里的 flow 是轨迹运动信息,摘要不足以将其等同于图像光流。 作者报告 TrackSSM 适用于多种跟踪场景,并在多个基准上取得良好跟踪表现,但摘要未列出基准名称、数据划分、对照方法、具体指标或计算成本,因此无法核对性能提升幅度及效率收益。摘要声明代码和模型已公开;实现细节、实验协议、消融及统计信息尚未验证,也不能据此推断论文接收或发表状态。 平台推测(待验证):假设以历史信息调节状态转移的机制能够适应 EEG 的时变动态,可将其作为 EEG 时序预测的候选模块。原方法依赖可定位的目标轨迹及相邻帧位置监督;EEG 没有直接对应的边界框,需要改造输入表示、预测输出和监督目标,而 Mamba 编码器与条件化状态转移思路可能复用。低信噪比、通道差异、跨被试非平稳性及小数据训练都可能使运动建模收益无法迁移;线性插值还可能平滑掉真实的快速变化。一个可证伪的小实验是在固定 EEG 数据划分和相同训练预算下,比较 Mamba 基线与加入历史信息引导状态转移的模型在短时序预测中的误差,再单独核对插值监督是否带来收益。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读其以历史位置和运动信息引导数据依赖状态转移、并用插值伪标签训练运动解码器的机制;摘要未给出定量结果,其优势及向 EEG 时序建模迁移的可行性尚未验证。

  4. OpenReview · State space models75

    槽状态空间模型

    基于摘要分析。该研究针对常规状态空间模型(SSM)以整体状态向量建模、难以显式表达模块化过程的问题,提出 SlotSSMs:将状态表示为多个称为 slots 的向量,通过各槽独立的状态转移及受限的跨槽交互,在长程时序建模中保留或鼓励信息分离。 核心机制是把状态演化拆分到独立槽内,并通过 self-attention 瓶颈实现稀疏的槽间交互。相较于整体状态表示,这一设计引入了独立机制的归纳偏置,适合检验多个对象各自演化、同时存在相互作用的序列建模问题。摘要未说明槽的初始化与分配方式、具体 SSM 实现、损失函数及训练和推理配置,相关细节尚未验证。 作者报告,在 object-centric learning、3D visual reasoning 和 long-context video understanding 任务中,SlotSSMs 相较现有序列建模方法取得显著性能提升;这些任务涉及多个对象及其长程时间依赖。摘要未提供数据集、划分、具体对照方法或指标数值,不能据此量化收益或比较不同评估协议;实验协议、消融及统计信息尚未验证。 平台推测(待验证):迁移假设是,若 EEG 中存在可分离且相互耦合的动态成分,独立槽状态及跨槽交互可能用于建模这些成分,而非直接把槽等同于电极或脑源。可复用模块是槽内时序更新与槽间交互;需改造 EEG 输入编码和槽分配机制。视觉任务中的对象结构不一定对应 EEG 的混合观测,低信噪比、跨被试与通道差异、小数据条件可能导致槽混叠或不稳定。可在固定 Cross-subject 划分下,以匹配参数量的整体状态 SSM 为对照,比较任务指标并检查槽表示稳定性,检验模块化偏置是否带来收益。已有 EEG 相关工作尚未检索确认。

    阅读价值:SlotSSMs 将独立槽状态转移与受限跨槽交互结合,为模块化长程序列建模提供了可核对的机制设计;其能否改善 EEG 中多源动态的分离与建模尚未验证。

  5. OpenReview · State space models73

    探索视觉状态空间模型对后门攻击的鲁棒性

    基于摘要分析。本文研究 Visual State Space Model(VSS)对后门攻击的鲁棒性,重点考察 State Space Model(SSM)机制如何影响触发器敏感性,并研究 patch 处理对后门触发器的影响。后门攻击的目标是在特定触发器出现时使受感染模型输出攻击者指定的标签,同时在正常样本上维持正常行为。 作者报告,SSM 捕获 patch 内上下文信息的机制使 VSS 比不含 SSM 的模型更易受到后门触发器影响;另一方面,所考察的 patch 处理能够有效扰乱这些触发器。基于此,作者进一步考察在每个 patch 中重复出现、以抵抗 patch 扰动的后门触发方式。摘要未给出具体 patch 处理操作、触发器构造、投毒设置或训练细节,机制归因仍需结合正文与消融核对。 作者报告,在三个未具名数据集和多种后门攻击的实验中,VSS 的后门鲁棒性与 Transformers(ViTs)相近,但弱于仅堆叠 Gated CNN blocks、不含 SSM 的 Gated CNNs。摘要未提供具体指标、数值、数据划分及对照配置,不能据此量化差距或推断干净样本性能;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 模型将时间序列切分为 patch 并使用 SSM,重复触发模式与 patch 上下文聚合之间的关系可能成为安全性检查线索,但视觉实验不等于 EEG/BCI 验证。迁移需改造视觉 patch 和触发器为符合 EEG 时间、通道结构的输入模式;低信噪比、跨被试差异及小数据训练可能改变触发器可学习性。一个可检验的小实验是在固定数据划分和投毒条件下,对比含 SSM 与不含 SSM 的模型,测试局部及重复触发器在 patch 扰动前后的攻击成功率与干净样本 Accuracy。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的具体原因是其将 VSS 的后门敏感性与 SSM 的 patch 内上下文机制及 patch 处理联系起来,并提供与 ViTs、无 SSM 的 Gated CNNs 对照的安全性研究线索;具体实验协议与机制归因尚未验证。

  6. OpenReview · State space models70

    PhysMamba:用于远程生理测量的状态空间对偶模型

    基于摘要分析。该研究针对从面部视频提取生理信号的 Remote Photoplethysmography(rPPG)在真实环境中易受运动伪影和噪声影响的问题,提出 PhysMamba,利用 State Space Duality 构建时频交互双路径模型,以学习更具代表性的特征。 机制方面,作者设计 Cross-Attention State Space Duality(CASSD),促进两条路径之间的信息交换与特征互补。摘要将时频交互及跨路径融合与噪声条件下的鲁棒性提升联系起来,但具体时频表示、状态空间实现、交互位置、损失函数及训练流程尚未验证。 作者报告在 PURE、UBFC-rPPG 和 MMPD 数据集上开展比较实验,并达到 SOTA,尤其在复杂环境下表现突出。摘要未提供具体指标、数值、数据划分及对照方法,因此目前无法判断优势幅度,也不能确定这些结果属于数据集内评估还是 Cross-dataset 评估。实验协议、消融及统计信息尚未验证;复现还需核对视频预处理、信号标签、评估流程及实现可用性。 平台推测(待验证):若 CASSD 的时频互补机制不依赖面部视频的特定空间结构,可探索其对 EEG 非平稳信号和伪影干扰的适用性。可复用候选是双路径信息交互模块,需改造视频输入与特征编码;原方法对监督信号、数据规模和时频表示的依赖尚不明确。EEG 的低信噪比、跨被试差异、通道变化及小数据条件可能使交互模块放大伪影或过拟合。一个可检验的小实验是在固定 Cross-subject EEG 划分、相同预处理与训练预算下,对比单路径、双路径无交互及 CASSD 交互模型,并检查受控噪声扰动下的性能变化。该迁移假设不构成已验证的 EEG/BCI 效果,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得关注其通过 CASSD 实现时频双路径信息交互的机制,但复杂环境下的鲁棒性优势仍需结合完整实验协议、指标与消融核对。

  7. OpenReview · State space models72

    DGMamba:通过广义状态空间模型实现域泛化

    基于摘要分析。DGMamba 研究视觉域泛化中的分布偏移问题,尝试在保留 Mamba 全局感受野与线性复杂度优势的同时,通过抑制域特异隐藏状态、调整图像 patch 扫描和组合方式,提高对未见域的泛化能力。 核心机制包括 Hidden State Suppressing(HSS)与 Semantic-aware Patch Refining(SPR)。HSS 用于减轻与域特异特征相关的隐藏状态对输出预测的影响。SPR 旨在让模型更多关注对象而非上下文,包含 Prior-Free Scanning(PFS)和 Domain Context Interchange(DCI):PFS 打乱图像中的非语义 patch,构造更灵活的序列;DCI 通过跨域融合 patch,将不匹配的非语义与语义信息组合起来,对 Mamba 施加正则化。摘要未提供隐藏状态识别与抑制的具体实现、语义 patch 判定方法或损失形式。 作者报告,在四个常用 DG benchmark 上,DGMamba 获得优于所比较先进模型的结果;摘要未列出 benchmark 名称、指标数值、训练与测试域划分及具体基线,因此尚不能判断收益幅度及各模块贡献。实验协议、消融及统计信息尚未验证。摘要表示代码将公开,并非已确认发布。 平台推测(待验证):假设 EEG 中也能区分任务相关信息与被试或会话特异背景,HSS 的抑制思路可能对应跨被试、跨会话分布偏移;但图像对象与背景的划分不能直接等同于 EEG 的时间段或通道。可考虑复用隐藏状态抑制与背景重组思路,需改造 patch 定义、任务相关性判定及扫描顺序,避免破坏时序和通道关系。低信噪比、小数据及被试间差异可能使判定不稳定,误抑制有效信号。一个可证伪的小实验是在固定跨被试划分下,对比基础 Mamba 与仅加入 HSS 的版本,保持训练数据和调参预算一致,检查未见被试表现是否改善;这一迁移假设尚无本文证据支持,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的具体原因是 DGMamba 将域泛化中的域特异特征抑制与图像扫描机制改造分别落实为 HSS 和 SPR,可据此核对状态空间模型的泛化收益来源,但其 EEG 迁移价值尚未验证。

  8. OpenReview · State space models76

    槽状态空间模型(Slot State Space Models)

    基于摘要分析。该研究针对传统 State Space Models(SSMs)以单一整体状态向量表示序列、难以体现底层过程模块化结构的问题,提出 SlotSSMs:将状态组织为多个称为 slots 的向量,通过独立状态转移与受限交互,保留或鼓励不同机制之间的信息分离。 核心机制是各 slot 独立执行状态转移,并通过 self-attention 瓶颈实现 slots 之间的稀疏交互。与摘要所述的传统整体式状态表示相比,其主要区别是显式引入模块化归纳偏置,同时允许模块交换信息。摘要未说明 slots 的构造方式、交互稀疏性的具体实现、训练目标及计算复杂度,不能据此推定其采用特定 SSM 骨干或获得特定效率收益。 作者报告,在 object-centric learning、3D visual reasoning 和 long-context video understanding 任务中,SlotSSMs 相较现有序列建模方法取得明显性能提升;这些任务涉及多个对象及其长程时间依赖。摘要未给出数据集、划分、指标数值或具体对照方法,实验协议、消融及统计信息尚未验证。复现前需核对完整模型定义、训练配置,以及项目页是否提供可用实现与实验资源。 平台推测(待验证):其可迁移假设是,将 EEG 中部分潜在时序过程表示为独立 slots,再用受限交互建模过程间依赖,可能减少不同过程在整体状态中的混合。可复用的是模块化状态演化与交互框架;需要改造的是 EEG 输入编码、slot 分配和任务输出。原研究面向多对象视觉任务,所需对象结构与监督条件尚不明确,EEG 中也不能直接将 slot 等同于脑区或通道。低信噪比、容积传导导致的观测混合、跨被试差异、通道配置变化及小数据训练均可能使分解失效。一个可检验的小实验是在固定 EEG 任务和同一跨被试划分下,比较容量匹配的整体式 SSM 与 SlotSSMs,并对跨 slot 交互做消融,观察模块化是否改善泛化而非仅增加容量。已有 EEG 相关工作尚未检索确认。

    阅读价值:SlotSSMs 将独立状态演化与受限的跨 slot 交互结合,为研究模块化长程时序建模提供了可核对的机制思路,但其在 EEG/BCI 中的适用性尚未验证。

  9. OpenReview · State space models72

    Event USKT:用于事件相机知识迁移的 U 形状态空间模型

    基于摘要分析。该研究针对事件相机数据有限、难以充分利用已有 RGB 预训练模型的问题,提出 U 形状态空间模型知识迁移框架 USKT。其核心贡献是生成与 RGB 帧兼容的输入,使事件数据能够复用 RGB 预训练模型,并引入采用共享权重策略的 Bidirectional Reverse State Space Model(BiR-SSM)。 机制上,摘要将 USKT 描述为 Event-to-RGB 知识迁移框架:通过输入兼容化连接事件数据与 RGB 模型,而非仅依赖事件数据训练新模型。BiR-SSM 与常规双向扫描机制的区别在于共享权重;作者认为该设计有助于高效建模并节省计算资源。具体事件表示、U 形结构、反向扫描方式、损失函数、冻结或调优的参数范围及推理成本尚未验证。 结果方面,作者报告,使用 ResNet50 作为骨干时,在 DVS128 Gesture、N-Caltech101 和 CIFAR-10-DVS 上的模型性能分别提升 0.95%、3.57% 和 2.9%。摘要未明确这些提升对应的指标、比较基线、数据划分,以及百分比是否表示相对增幅,因此不能将其改写为 Accuracy 的百分点提升,也不能跨数据集直接比较。实验协议、消融及统计信息尚未验证。材料称代码将在论文被接收后公开,当前代码可用性及接收状态均尚未验证。 平台推测(待验证):可迁移假设是,输入兼容化与共享权重双向建模可能帮助数据有限的 EEG 任务复用预训练表示。但事件视觉数据与 EEG 的通道语义、时间结构和噪声特征不同,RGB 输入兼容不等于保留 EEG 判别信息。可考察状态空间建模及参数共享模块,输入映射则需针对 EEG 改造;低信噪比、跨被试差异、通道布局变化与小样本训练可能使映射丢失有效信息或过拟合。一个可证伪的小实验是在固定跨被试划分、相同预训练骨干和调优预算下,对比简单 EEG 输入映射与 USKT 式映射,并以取消双向权重共享作为对照,检查性能与计算成本是否同时改善。相关 EEG 工作尚未检索确认。

    阅读价值:值得核对 USKT 如何将事件数据转换为 RGB 预训练模型可用的输入,以及 BiR-SSM 的共享权重机制能否在减少参数调优与计算开销的同时保留任务信息;其 EEG 迁移价值尚未验证。

  10. OpenReview · State space models70

    采用分形扫描的可扩展视觉状态空间模型

    基于摘要分析。该研究针对视觉 State Space Models(SSMs)中图像 patch 序列化可能破坏空间关系的问题,提出以分形扫描曲线替代线性扫描,旨在改善空间邻近性保持并适应不同图像分辨率。 核心机制是调整二维图像 patch 到一维序列的排列方式,使 SSM 在序列建模时更有效地利用空间结构。作者认为,现有线性扫描容易产生重复模式与偏置,而分形曲线能够保持较高的空间邻近性、减少冗余并提升复杂模式建模能力。摘要未说明具体分形曲线、扫描实现、模型结构或训练配置,因此不能进一步确定其计算与存储开销。 作者报告在图像分类、检测和分割任务中取得优于对照方法的表现,但摘要未提供数据集、划分、基线名称、指标或数值,无法量化收益或比较不同协议下的结果。实验协议、消融及统计信息尚未验证;复现需取得完整的扫描规则、分辨率适配方式、训练设置及对照配置。 平台推测(待验证):该机制依赖 patch 的二维空间邻接关系,可为 EEG 通道×时间表示的序列化提供思路,但图像空间邻近不等同于电极间的功能关系。可复用的是扫描与序列排列模块,需改造的是电极拓扑映射和时间顺序约束;低信噪比、跨被试差异、通道布局变化及小数据可能削弱收益。一个可检验的小实验是在固定 EEG 表示、SSM 主干与训练配置下,对比线性扫描和分形扫描,使用一致的 Cross-subject 划分,检查任务指标及时间邻接是否受到破坏。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对分形扫描如何保留图像 patch 的空间邻近关系,以及其相对线性扫描的收益是否在不同分辨率和任务下稳定;摘要尚不足以判断收益幅度与计算代价。

  11. OpenReview · State space models79

    VMamba:视觉状态空间模型

    基于摘要分析。本文研究如何构建计算高效的视觉网络,将状态空间语言模型 Mamba 适配为具有线性时间复杂度的视觉骨干 VMamba,核心贡献是用 2D Selective Scan(SS2D)处理二维视觉数据与一维选择性扫描之间的结构差异。 技术机制:VMamba 由 Visual State-Space(VSS)块堆叠构成,SS2D 沿四条扫描路径遍历二维数据,以收集不同来源和视角的上下文信息。作者据此构建一系列 VMamba 架构,并通过架构与实现层面的改进加速。摘要未给出具体扫描方向、状态更新公式、损失、训练配置及各加速措施,尚不能核对其计算开销与性能收益的来源。 结果与复现:作者报告,VMamba 在多种视觉感知任务上表现良好,相较现有基准模型具有更优的输入规模扩展效率。摘要未列出任务、数据集、指标、数值或对照配置,因此不能据此判断优势幅度,也不能将线性时间复杂度直接等同于实际运行速度。实验协议、消融及统计信息尚未验证。材料提供了源码仓库,但实现与论文版本的对应关系及完整复现条件仍需核对。 平台推测(待验证):迁移假设是将 EEG 的时间与通道,或时频表示,组织为二维输入,借用多路径选择性扫描建模上下文。原方法依赖二维结构,预训练数据规模与监督设置在摘要中未说明;EEG 的通道排列并不天然等同于图像邻接关系,因此可考察 SS2D 与 VSS 模块,但需改造输入编码、通道拓扑和任务输出。低信噪比、跨被试差异、缺失通道及小数据可能使扫描路径引入不稳定依赖或过拟合。一个可证伪的小实验是在固定 EEG 任务、训练预算与数据划分下,对比二维多路径扫描、仅时间扫描及常规基线,并扰动通道顺序,检验收益是否依赖人为排列;这不是论文已验证的结果,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读其以四条扫描路径将一维选择性扫描适配到二维视觉数据的机制,以及输入规模扩展效率的评估;该机制对 EEG 的适用性尚未验证。

  12. OpenReview · State space models73

    SMamba:通过可伸缩状态空间模型实现任意尺度超分辨率

    基于摘要分析。该研究针对任意尺度超分辨率(ASSR),提出正文称为 S³Mamba 的方法,旨在用单一模型将低分辨率图像重建到任意目标尺度。其核心贡献是通过 Scalable State Space Model(SSSM)构建可伸缩的连续表示空间,并结合尺度感知自注意力强化不同尺度下的全局重要特征建模。 机制上,Implicit Neural Representations(INR)通过坐标与像素值之间的连续表示支持任意尺度重建。作者认为,现有基于 CNN 和 Transformer 的方法受到计算复杂度及长程依赖建模能力的限制;SSSM 在离散化过程中调制状态转移矩阵与步长采样矩阵,以实现尺度可调的连续表示建模。作者报告该机制具有线性计算复杂度,但摘要未说明其对应的复杂度变量、完整网络开销或具体调制形式,尚需全文核对。 作者报告,在合成及真实场景基准上的实验取得了最先进性能和任意超分辨率尺度下的较强泛化能力。摘要未提供数据集名称、训练与测试尺度划分、对照方法、指标或数值,因此目前不能定量判断收益,也不能确认对未见尺度的具体泛化范围;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其潜在 EEG 关联是将尺度条件化的状态空间建模用于不同采样率下的连续时间信号重建,而非直接复用图像超分辨率效果。该假设依赖可建立的时间坐标和低、高采样率监督配对;可考察复用 SSSM 的离散化调制机制,输入表示与尺度感知模块则需适配 EEG 的时间轴、通道布局及生理频带。低信噪比、跨被试差异、通道缺失和小数据可能导致噪声放大或虚假高频重建,且上采样不能保证恢复已丢失的生理信息。一个可证伪的小实验是对高采样率 EEG 进行受控抗混叠降采样,在按被试隔离的划分中比较该机制、固定尺度模型与插值基线,并测试未见采样倍率下的波形误差及频谱保真度。相关 EEG 工作尚未检索确认。

    阅读价值:值得关注其通过离散化过程中的状态转移与步长采样调制构建尺度连续表示的机制,但任意尺度泛化、计算开销及向 EEG 迁移的有效性仍需核对全文或实验验证。

  13. OpenReview · State space models70

    用于图像去模糊的高效视觉状态空间模型

    基于摘要分析。本文针对图像去模糊中长程依赖建模与高分辨率计算成本之间的矛盾,提出高效视觉状态空间模型 EVSSM,以状态空间模型(SSMs)提取非局部信息,并通过视觉扫描模块降低多固定方向扫描带来的计算开销。 核心机制是:在各个基于 SSM 的模块之前施加不同几何变换,以捕获有用的非局部信息。摘要将其与采用多个固定方向扫描的既有方法对照,强调扫描方式的效率改进;具体变换类型、扫描顺序、网络结构、损失函数及训练配置尚未验证。作者以 Transformer 模型计算复杂度随图像分辨率呈二次增长作为研究动机,但摘要没有给出 EVSSM 的复杂度公式或实测资源消耗。 作者报告,EVSSM 在图像去模糊基准数据集和真实拍摄图像上,相较现有先进方法表现良好。摘要未列出数据集名称、划分、对照方法或定量指标,因此尚不能判断性能增益、效率收益及二者的权衡;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将 EEG 表示为通道×时间或时频特征,SSM 的序列建模和扫描组织方式可能用于捕获较长时间范围的依赖。但原方法依赖图像空间结构,其几何变换不能直接视为 EEG 的有效变换:通道排列具有电极拓扑意义,时间方向也有特定语义。可复用候选是 SSM 建模与扫描组织思路,需改造的是输入表示及变换规则;低信噪比、跨被试差异、通道缺失和小数据训练均可能使收益消失。可检验的小实验是在固定数据划分和训练预算下,对照单方向扫描、多个固定方向扫描与保留电极拓扑的变换方案,分别报告被试内及跨被试性能、推理耗时和显存占用。该假设并非本文已验证的 EEG 结果,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对几何变换驱动的视觉扫描如何兼顾非局部建模与计算效率,但摘要未提供定量性能或复杂度数据,其优势及向 EEG 的迁移价值尚未验证。

  14. OpenReview · State space models78

    VMamba:视觉状态空间模型

    基于摘要分析。本文研究如何构建计算高效的视觉网络,将状态空间语言模型 Mamba 迁移为具有线性时间复杂度的视觉骨干 VMamba,核心贡献是通过 2D Selective Scan(SS2D)适配二维视觉数据的结构。 机制上,VMamba 由 Visual State-Space(VSS)块堆叠构成,其中 SS2D 沿四条扫描路径遍历,以连接一维选择性扫描的有序处理方式与二维视觉数据的非序列结构,从不同方向汇集上下文信息。作者据此构建了一组 VMamba 架构,并通过架构与实现层面的改进加速。摘要未展开具体扫描顺序、状态更新形式、训练目标或加速实现,相关细节尚未验证。 作者报告,VMamba 在多种视觉感知任务中展现出良好性能,相较既有基准模型具有输入规模扩展效率优势。摘要未提供任务名称、数据集、数据划分、对照模型、数值指标及复杂度测量条件,因此不能据此量化性能提升,或将线性复杂度直接等同于实际运行速度优势。实验协议、消融及统计信息尚未验证。材料提供了公开代码仓库,复现仍需核对具体配置、训练预算与软硬件环境。 平台推测(待验证):若 EEG 被表示为通道×时间或时频二维结构,SS2D 的多方向上下文聚合可能用于建模长程依赖;这一假设依赖二维排列能够保留有意义的通道或时频关系,视觉领域结果不等于 EEG/BCI 效果。可考察复用 VSS 与扫描机制,但需改造输入编码、通道排列和任务输出。低信噪比、不规则电极布局、跨被试差异及小数据训练可能削弱收益,预训练与监督规模要求也尚未验证。一个可检验的小实验是在固定 EEG 数据划分、训练预算和相近模型容量下,对照多方向 SS2D 与单方向扫描,并扰动通道排列,观察任务指标及计算成本是否稳定改善。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读其以四条扫描路径将一维选择性扫描适配到二维视觉数据的机制,并核对输入规模扩展效率的对照实验;该机制对 EEG 的适用性尚未验证。