跳到正文
1月26日周一
  1. OpenReview · State space models77

    使状态空间模型在视觉任务中实现真正的全局感知

    基于摘要分析。该研究针对视觉任务中全局上下文建模缺乏严格数学定义,以及注意力计算成本与状态空间模型(SSMs)递归建模限制之间的矛盾,提出全局图像建模的数学定义和频域理论框架,并据此设计 Global-aware SSM(GSSM)与可嵌入 CNN 的 GMamba 模块。 核心机制是基于 Discrete Fourier Transform(DFT)的调制,在 SSM 前端控制其建模行为,以频域视角处理递归机制对全局感知的限制。作者称已形式化证明 GSSM 满足所提出的全局图像建模定义,并报告其计算复杂度为线性对数级。摘要未给出定义的具体条件、调制形式、训练目标及复杂度所对应的输入规模变量,因此尚不能判断该定义与常见全局感受野或全局信息交互的关系。 作者报告,在目标检测、语义分割和实例分割任务、以及多种模型架构中,GMamba 均优于现有全局建模模块;但摘要未列出数据集、划分、对照模块、评价指标或具体增益,不能据此判断优势幅度及不同协议下的可比性。作者提供了代码链接,代码完整性、运行条件、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 DFT 调制的全局建模机制能够适配多通道时间序列,它可能用于探索 EEG 长时程信息交互,但视觉结果不等于 BCI 有效。原方法面向图像结构,其监督方式与所需数据规模尚未明确;迁移时需改造时间与通道布局、频域调制及任务输出模块,并核对是否需要双向或完整片段输入。低信噪比、跨被试频谱差异、通道变化及小数据过拟合均可能使收益失效。可在固定 EEG 数据划分与相同训练预算下,对比基础 SSM、加入 GSSM 的版本及移除 DFT 调制的版本,检验任务指标与计算开销,并分别报告被试内和跨被试结果。相关 EEG 工作尚未检索确认。

    阅读价值:值得阅读其全局建模的数学定义与 DFT 调制如何改变 SSM 的递归建模限制,但理论证明的适用条件、计算复杂度口径及视觉实验对照尚需全文核对。

9月19日周五
  1. OpenReview · State space models72

    DAMamba:采用动态自适应扫描的视觉状态空间模型

    基于摘要分析。该研究针对视觉状态空间模型(SSMs)将图像块按人工设计的路径展平为序列时,可能破坏语义空间邻接关系、难以适应复杂图像结构的问题,提出 Dynamic Adaptive Scan(DAS),并据此构建视觉骨干 DAMamba。其核心贡献是以数据驱动方式自适应分配扫描顺序与区域,而非依赖固定的局部或全局扫描路径。 机制与结果:作者称 DAS 在增强建模灵活性的同时,保持线性计算复杂度与全局建模能力。作者报告,DAMamba 在图像分类、目标检测、实例分割和语义分割任务中优于多种常用视觉 Mamba 模型,并超过部分近期先进 CNNs 与 ViTs。摘要未给出对应数据集、数据划分、基线配置或具体指标,因此不能量化提升或确认不同模型间的比较条件。扫描分配的实现、训练监督、损失、复杂度计算口径,以及实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 DAS 能在 EEG 通道拓扑或时频表示上学习有意义的遍历顺序,它可能缓解固定序列化方式对空间关系的扭曲;但图像块的二维邻接与 EEG 电极布局及信号相关性并不等价。可考虑复用自适应扫描思路,需改造输入表示、位置关系和扫描约束。其所需训练规模及监督条件尚未验证;低信噪比、小数据、跨被试差异和通道布局变化可能导致扫描策略不稳定或过拟合。 一个可证伪的小实验是:在同一 EEG 任务、固定数据划分与训练预算下,对比固定扫描和 DAS,使用相同骨干与预处理,分别评估被试内和跨被试表现,并观察通道扰动后的性能与扫描稳定性。这仅是迁移假设,不是已验证的 BCI 结果;已有 EEG 相关工作尚未检索确认。复现仍需全文中的扫描算法、训练配置和实现细节。

    阅读价值:值得核对 DAS 如何学习扫描顺序与区域,以及其线性计算复杂度和视觉任务收益的验证方式;摘要尚不足以确认其对 EEG 空间关系建模的适用性。

  2. OpenReview · State space models68

    GeoDynamics:用于理解黎曼流形上脑动态的几何状态空间神经网络

    GeoDynamics 针对脑功能连接动态的几何建模问题,将功能连接(FC)矩阵表示为对称正定(SPD)流形上的状态,通过流形感知的循环框架追踪潜在脑状态轨迹。其核心贡献是将状态空间模型(SSMs)的动态结构与黎曼几何结合,而非仅在欧氏空间中建模脑区活动或连接变化。以下基于摘要分析,未取得论文全文。 机制与创新:作者将各时间点的 FC 矩阵视为 SPD 矩阵,并提出在高维 SPD 流形上学习平滑、尊重几何结构的状态转移。研究重点由局部脑区关系转向整体连接网络的时序演化。摘要未给出状态与观测方程、流形映射、损失函数、训练或推理细节;FC 矩阵的构造方式及正定性保障也尚未验证。 验证与结果:作者报告,GeoDynamics 能揭示任务驱动的状态变化,以及 Alzheimer’s、Parkinson’s 和 autism 的早期标志;这些表述不能据此视为已确立的诊断性能或临床有效性。作者另报告在 UTKinect、Florence、HDM05 人体动作识别基准上进行验证,并据此主张模型具有跨领域扩展能力与鲁棒性。摘要未提供脑影像模态、数据集、被试规模、划分、对照基线或量化指标,实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设将 EEG 通道协方差或适当构造的 SPD 连接矩阵作为时序输入,其几何状态转移模块可能用于建模跨时间窗的网络变化,但这不等于已验证的 EEG/BCI 效果。可复用部分是流形感知的序列建模框架;需改造部分包括 EEG 的矩阵估计、正定化、通道对齐及任务输出。低信噪比、短窗估计不稳定、跨被试差异、通道变化与小数据均可能削弱收益。一个可检验的小实验是在同一 EEG 任务和固定划分下,对比 SPD 几何转移与欧氏转移,保持输入及模型容量尽量一致,观察几何约束是否改善泛化与稳定性。相关 EEG 工作尚未检索确认。

5月1日周四
  1. OpenReview · State space models74

    面向复杂环境长期动力学预测的可泛化物理增强状态空间模型

    基于摘要分析。该研究针对复杂环境中含噪声、非规则采样数据的长期动力学预测,提出 Phy-SSM,将部分已知物理知识融入状态空间模型(SSMs),以改善长期插值与外推。 核心机制是将部分已知的系统动力学分解为已知与未知状态矩阵,并将其整合到 Phy-SSM 单元中;同时引入 physics state regularization,使估计的潜在状态与系统动力学对齐。研究动机是结合 SSMs 的长程依赖建模能力与物理知识提供的约束。作者还对方法解的唯一性进行了理论分析,但具体假设、适用条件、矩阵参数化及正则项形式尚未验证。 作者报告,在车辆运动预测、无人机状态预测和 COVID-19 流行病学预测三类真实应用中,Phy-SSM 在长期插值与外推任务上优于对照基线。摘要未提供具体数据集名称、划分方式、预测时长、噪声与采样设置、基线名称或指标数值,因此尚不能判断优势幅度及不同协议下的稳健性。实验协议、消融及统计信息尚未验证。作者表示代码将在发表时公开,当前材料不能确认代码已可用或论文已正式发表。 平台推测(待验证):若 EEG 预测任务存在可明确表达的部分动力学先验,已知与未知状态矩阵的分解可能为低信噪比、非规则采样下的时间序列建模提供约束。这是假设,并非已验证的 EEG/BCI 效果。可考虑复用矩阵分解与潜在状态正则化机制,但需要重新定义 EEG 的潜在状态、观测映射与先验;跨被试动力学差异、通道变化、错误先验及小数据条件都可能使约束失效。一个可检验的小实验是在固定被试内划分与预测时长下,对比普通 SSM、加入合理先验的 Phy-SSM 和加入扰动先验的版本,并评估不同噪声与采样缺失条件下的预测误差。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对 Phy-SSM 如何将部分已知动力学纳入状态矩阵及潜在状态正则化,尤其是其在噪声、非规则采样条件下的长期外推协议;其对 EEG 的适用性尚未验证。

1月23日周四
  1. OpenReview · State space models79

    状态空间模型在动态 token 选择上可证明与 Transformers 相当

    基于摘要分析。该研究探讨状态空间模型(SSMs)结合全连接神经网络后,能否根据输入动态提取关键 token,并在特定任务与函数类下建立其与 Transformers 的能力比较。 核心机制与理论贡献:作者指出,既有理论研究多关注不含非线性层的 SSM 层,难以充分解释 SSM 与非线性模块组合后的能力。本文将研究对象扩展到 SSM 与全连接神经网络的组合;作者报告,这种组合在输入依赖的关键 token 提取能力上可与 Transformers 相当。摘要未给出具体网络结构、动态选择机制、证明假设或复杂度界,不能据此推断任意 SSM 架构均具备同等能力。 任务与结果:作者报告,在两个对单个 SSM 层具有挑战性的合成任务上,加入非线性层的 SSM 能高效求解;此外,在非参数回归问题中,作者证明 SSM 与 Transformers 对某一函数类的估计能力等价。合成任务定义、函数类约束、样本规模、评估指标及比较协议尚未验证,因此这些结论应限定在论文所设条件内,而非推广为一般任务上的性能等价。 平台推测(待验证):若 EEG 任务需要按输入选择少量关键时间片段,该理论可能为评估 SSM 与非线性模块的组合提供依据。但其对 EEG 低信噪比、跨被试变化和小样本条件的适用性尚未验证;需先核对定理对输入结构、监督形式及函数类的要求,再判断是否具备迁移路径。已有 EEG 相关工作尚未检索确认。全文证明、实验协议、消融及统计信息尚未验证。

    阅读价值:值得阅读其关于 SSM 与非线性层组合的理论分析,以核对动态 token 选择和非参数回归中与 Transformers 可比的具体条件,而非将其理解为普遍性能等价。

  2. OpenReview · State space models81

    振荡状态空间模型

    基于摘要分析。研究针对长序列学习中的计算效率、动力学稳定性与长程依赖建模问题,提出 Linear Oscillatory State-Space models(LinOSS),以受迫谐振子系统构建状态空间模型,并通过稳定离散化及快速关联并行扫描实现序列计算。 核心机制与理论:作者以生物神经网络的皮层动力学为启发,报告证明 LinOSS 在对角状态矩阵非负的条件下可产生稳定动力学,并将这一条件与既有状态空间模型的限制性参数化作对照。作者还报告其通用逼近能力,即可按所需精度逼近时变函数之间的连续因果算子;一种隐式—显式离散化则保持底层动力学的时间可逆对称性。上述结论的完整假设、适用范围及证明细节尚未验证,不能直接等同于任意任务上的预测准确性保证。 实验结果:作者报告在中等至超长序列分类、回归及长时域预测任务上优于所比较的先进序列模型;其中,在序列长度为 50k 的一项序列建模任务中,相对 Mamba 和 LRU 的表现接近两倍。摘要未明确该倍数对应的指标、数据集、划分与训练预算,因此不能解释为 Accuracy 翻倍或计算加速。实验协议、消融及统计信息尚未验证;模型规模、预处理与复现资源也需查阅全文。 平台推测(待验证):迁移假设是,振荡状态与稳定长程演化可能有助于 EEG 的节律及长时间上下文建模,但原领域有效不等于 BCI 有效。可考虑复用状态更新与并行扫描,需改造多通道输入及任务读出;低信噪比、非平稳性、被试差异、通道变化和小数据规模均可能削弱收益。可检验的小实验是在固定 EEG 数据划分、预处理及训练预算下,对比 LinOSS、Mamba 与 LRU,分别报告被试内和跨被试的同一任务指标,并考察序列长度变化是否带来稳定收益。已有 EEG 相关工作尚未检索确认。

    阅读价值:LinOSS 将受迫谐振子、稳定离散化与并行扫描结合,值得核对其稳定性条件及长序列建模收益,但摘要中的性能倍数尚需结合具体指标与评估协议验证。

  3. OpenReview · State space models78

    HOPE:长记忆状态空间模型的稳健参数化

    基于摘要分析。本文研究基于线性时不变(LTI)系统的状态空间模型(SSM)为何依赖专门设计的初始化,以及状态矩阵在对数尺度上以很小学习率训练的做法,并提出基于 Hankel operator 理论的参数化方案 HOPE,旨在改善初始化与训练稳定性。 机制上,HOPE 利用 Hankel operators 中的 Markov parameters 对 LTI 系统进行参数化,并通过对 LTI 系统传递函数进行非均匀采样实现高效计算。作者报告,该方案相较于常规 SSM 使用更少参数,并改善训练稳定性。摘要未给出具体参数化公式、采样策略、损失形式或参数量,相关实现条件尚未验证。 实验方面,作者报告,在 Long-Range Arena(LRA)任务上,基于 Hankel operators 参数化的 SSM 相较于采用 HiPPO 初始化的 S4、S4D 表现更好;摘要未提供具体任务分项、指标、数据划分及数值。作者还报告,该参数化具有固定时间窗内不衰减的记忆,并以加入填充噪声的 sequential CIFAR-10 任务提供经验支持。这不等同于无限时长记忆,也不能直接外推为生理信号中的抗噪能力。实验协议、消融及统计信息尚未验证。 平台推测(待验证):其迁移假设是,若 EEG 任务依赖较长时间跨度的有效信息,HOPE 的记忆参数化可能有助于降低长序列训练对初始化的敏感性。原方法依赖时序输入与 LTI 动态建模;迁移时可复用参数化及传递函数采样机制,但需适配多通道 EEG 输入与任务输出。低信噪比可能使长记忆同时保留无关噪声,跨被试差异、通道变化和小数据条件也可能削弱收益。可在一个固定的 EEG 任务与数据划分下,以相同输入处理和训练预算比较 HOPE 与 S4D,并改变有效片段后的噪声填充长度,检验任务指标与训练稳定性是否更稳健。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是 HOPE 将长记忆 SSM 的初始化与训练稳定性问题统一到 Hankel operator 参数化视角;作者报告的固定时间窗内不衰减记忆,为评估噪声背景下的长时依赖提供了具体切入点,但 EEG 适用性尚未验证。

  4. OpenReview · State space models68

    RFMamba:用于基于 RF 的以人为中心感知的频率感知状态空间模型

    基于摘要分析。RFMamba 研究如何将状态空间模型(SSM)用于基于射频(RF)信号的以人为中心感知,核心贡献是设计双分支 SSM 模块,自适应提取有信息量的频率线索与辅助空间信息,并构建面向多种下游感知任务的网络。 原问题与机制:摘要将 RF 感知的困难归纳为信号表征差异、不同场景下的频率响应差异,以及镜面反射导致的信息捕获不完整。作者以 SSM 的长序列建模能力和线性复杂度为出发点,通过频率与空间两类线索探索雷达回波中的人体表征。摘要未说明频率线索的具体计算方式、空间分支的数据组织、分支融合机制、损失函数及训练流程,这些细节尚未验证。 结果与证据边界:作者报告 RFMamba 在三个下游任务上均取得优于对照的表现,但摘要未给出任务名称、数据集、划分协议、对照基线或量化指标,因此不能判断优势幅度及不同协议下的稳定性。作者称这是据其所知首次将 SSM 引入基于 RF 的以人为中心感知,该优先性主张尚未独立核验。实验协议、消融及统计信息尚未验证。 平台推测(待验证):迁移假设是,频率线索选择与长序列建模可能对应 EEG 中频带相关信息提取及长时间依赖建模的需求,但雷达回波中的空间与反射结构不等同于 EEG 电极拓扑。可考察复用 SSM 序列模块与频率选择思路,空间分支则需依据通道布局改造;具体监督方式和所需数据规模尚不明确。低信噪比、跨被试频谱差异、通道变化及小数据过拟合均可能使迁移失效。一个可证伪的小实验是:在固定 EEG 数据划分与训练预算下,比较基础 SSM 与加入频率选择模块的版本,并用移除频率选择的消融检验增益是否稳定。该实验仅为迁移验证建议,已有 EEG 相关工作尚未检索确认。

  5. OpenReview · State space models72

    从层到状态:深度神经网络层动态的状态空间模型视角

    基于摘要分析。本文研究深层神经网络如何复用先前层的信息以增强当前层的特征表示,将各层输出视为连续过程的状态,并提出 Selective State Space Model Layer Aggregation(S6LA),利用 Selective State Space Models(S6)设计层间聚合模块。 核心机制是把状态空间模型(SSM)的建模对象从通常的序列位置转向网络深度方向的层输出。作者认为,既有层聚合方法主要采用离散状态视角,在网络层数增大时存在适用性限制;S6LA 则尝试以序列框架结合传统 CNN 或 transformer 架构。这里的“序列”主要对应层间信息演化,不能直接等同于输入信号的时间序列。连续状态的具体参数化、不同层特征的维度对齐、选择性机制及训练方式均需全文核对。 作者报告,S6LA 在图像分类与检测任务中带来显著改进,但摘要未提供数据集、划分、对照基线、指标或具体数值,因此无法判断改进幅度、计算代价及其对网络深度的依赖。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 模型存在跨层特征复用不足的问题,可考虑复用 S6LA 的沿深度聚合思路,而非直接把它当作 EEG 时间建模模块。该迁移假设依赖可组织为层序列的中间表示,需要改造不同层的通道数、时间分辨率与特征对齐方式;低信噪比可能使聚合传播噪声,跨被试差异和小数据也可能使选择性机制过拟合。一个可检验的小实验是在固定 EEG 骨干和 Cross-subject 划分下,比较原模型、简单层聚合与 S6LA,并同时记录任务指标、参数量及推理开销。上述仅为验证建议,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对 S6LA 如何将沿网络深度的层间聚合建模为状态演化,以及其相对既有层聚合方法的收益与开销;摘要支持视觉任务中的作者报告,尚不能据此确认 EEG 适用性。

9月26日周四
  1. OpenReview · State space models72

    Decision Mamba:用于离线强化学习的多粒度状态空间模型与自演化正则化

    基于摘要分析。该研究针对离线强化学习中的分布外状态与动作处理问题,提出 Decision Mamba(DM),将多粒度状态空间模型(SSM)与自演化策略学习结合,以利用轨迹历史、建模步内变量关系,并缓解对带噪声次优轨迹的过拟合。 机制上,DM 利用 Mamba 的历史隐藏状态提取跨时间步信息;在原有粗粒度 SSM 中集成细粒度 SSM 模块,捕捉 return-to-go(RTG,剩余累计回报)、状态与动作三元组的步内关系。自演化策略采用渐进正则化,利用策略自身过去的知识修正次优动作。摘要未给出具体损失、动作修正规则、正则化调度或训练与推理流程,这些细节尚未验证。 作者报告,DM 在多种任务上显著优于其他基线,但摘要未提供任务与数据集名称、划分、指标、数值或对照配置,因而不能据此量化收益,也不能区分收益来自多粒度建模还是自演化正则化。实验协议、消融及统计信息尚未验证;分布外鲁棒性与噪声示范鲁棒性是否分别得到直接评估,也需核对全文。 平台推测(待验证):其跨步历史与步内关系的分层建模机制,可作为序列式 BCI 决策的候选思路,但依赖具有状态、动作及回报信息的轨迹,不能直接等同于 EEG 分类方法。可复用的是多粒度 SSM 思路;需改造 EEG 状态编码、动作定义与回报构造。低信噪比、跨被试差异、通道变化和小数据可能使历史状态不稳定,自演化策略也可能强化既有动作偏差。一个可检验的小实验是在具有明确动作与回报记录的固定 BCI 离线轨迹上,按被试隔离评估,比较粗粒度 SSM、加入细粒度模块及完整 DM,并在受控动作噪声下检查策略收益与稳定性。该迁移是假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对 Decision Mamba 如何联合建模跨时间步历史与步内 RTG-state-action 关系,以及渐进正则化能否缓解噪声示范中的策略过拟合;摘要尚不足以验证其性能优势与各模块贡献。

  2. OpenReview · State space models77

    MambaTree:树拓扑就是状态空间模型所需的一切

    基于摘要分析。MambaTree 针对状态空间模型受序列几何结构约束、长程依赖建模受限的问题,提出根据空间关系与输入特征动态生成树拓扑,并沿该结构传播特征,以突破原有序列传播路径的限制。 核心机制是将特征传播组织从序列改为动态树结构,并引入线性复杂度的动态规划算法来增强长程交互。摘要未给出树构建规则、状态更新方程、训练目标或复杂度的具体计量范围,因此尚不能确定树生成与传播的整体开销,以及其相对序列式状态空间模型的实现条件。 作者报告,在图像分类、目标检测和分割任务中,MambaTree 显著优于现有结构化状态空间模型;在大语言模型微调中,也以较小训练成本在多个文本任务上取得一致提升。这些结论对应摘要所述任务,但具体数据集、指标、划分、对照基线与成本口径未提供,实验协议、消融及统计信息尚未验证,不宜据此量化性能优势或推断其已具备 EEG 多模态建模能力。 平台推测(待验证):若将 EEG 的通道空间关系与片段特征用于动态树构建,该机制可能为跨通道及长时间跨度交互提供不同于固定序列的传播路径。可考虑复用树上动态规划思想,但输入表征、通道空间编码和树生成约束需要针对 EEG 改造;其对数据规模和监督方式的依赖仍需核对。低信噪比可能使树结构不稳定,跨被试差异、通道布局变化及小数据条件也可能削弱泛化。一个可证伪的小实验是在固定 Cross-subject 划分下,以相同预处理、训练预算和状态空间骨干,对比原序列传播、固定树与动态树,联合检查任务指标、运行成本和树结构稳定性。该实验仅是迁移假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其动态树拓扑与线性复杂度特征传播如何缓解序列结构对长程依赖的限制,但计算成本优势及向 EEG 的迁移价值尚未验证。

  3. OpenReview · State space models74

    Multi-Scale VMamba:层级内嵌层级的视觉状态空间模型

    基于摘要分析。研究针对视觉 State Space Models(SSMs)中多扫描策略带来的冗余,提出 Multi-Scale Vision Mamba(MSVMamba),通过多尺度二维扫描与通道混合模块改善效率和性能之间的权衡。 核心机制:作者分析认为,长程依赖是多扫描策略有效的重要原因。MSVMamba 在原始及下采样特征图上进行多尺度二维扫描,旨在保留长程依赖学习能力并降低计算成本;同时引入 Convolutional Feed-Forward Network(ConvFFN),补充通道混合。摘要未给出具体扫描路径、下采样配置、模块结构、损失或参数量,相关细节尚未验证。 作者报告:MSVMamba-Tiny 在 ImageNet 上取得 83.0% top-1 Accuracy;在 COCO 上,采用 Mask R-CNN 框架及 1x 训练日程,取得 46.9% box mAP 和 42.5% instance mAP;在 ADE20K 上采用单尺度测试,取得 47.9% mIoU。摘要未提供具体对照结果或实测计算开销,不能据此确认相对优势幅度。实验协议、消融及统计信息尚未验证。材料提供了代码仓库,但实现与复现条件尚未核对。 平台推测(待验证):迁移假设是,多尺度扫描可能用于 EEG 的长短时程依赖建模,缓解长序列计算负担,但原方法依赖视觉二维特征图,不能直接等同于 EEG 通道与时间结构。可考虑复用 SSM 和多尺度处理思路,改造扫描顺序、下采样方式及通道混合模块。风险包括下采样丢失短暂 ERP 或高频信息、空间邻接不匹配,以及跨被试、通道变化和小数据条件下泛化不足。一个可证伪的小实验是在固定 EEG 任务与跨被试划分下,对比单尺度与多尺度扫描,控制参数量和训练预算,同时记录任务指标、延迟及短时事件识别表现。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其多尺度扫描能否在保留长程依赖建模能力的同时降低计算开销,以及 ConvFFN 的独立贡献;摘要提供了多任务结果,但效率收益与消融证据尚未验证。

  4. OpenReview · State space models79

    VMamba:视觉状态空间模型

    基于摘要分析。该研究针对计算机视觉网络的计算效率问题,将状态空间语言模型 Mamba 改造为视觉骨干 VMamba,提出通过二维扫描聚合上下文信息的架构,并以线性时间复杂度为设计特征。 核心机制是由 Visual State-Space(VSS)块构成网络,并在其中使用 2D Selective Scan(SS2D)模块。SS2D 沿四条扫描路径遍历二维数据,以衔接一维 selective scan 的有序处理方式与二维视觉数据的非序列结构,从不同方向收集上下文信息。作者据此构建一组 VMamba 架构,并通过架构及实现层面的优化加速;具体扫描顺序、网络配置、训练损失及优化细节尚未验证。 作者报告,VMamba 在多种视觉感知任务中表现良好,相较所比较的基准模型具有更好的输入规模扩展效率。摘要未提供具体任务、数据集、指标数值、对照模型或计算成本测量条件,因此尚不能核对性能与效率之间的权衡。实验协议、消融及统计信息尚未验证。摘要提供了源码仓库,但代码与论文实验的一致性、运行环境及复现成本仍需核对。 平台推测(待验证):迁移假设是,将 SS2D 用于 EEG 的通道×时间表示,可能为长时间窗与跨通道上下文建模提供一种计算效率较高的路径;这不是已验证的 EEG/BCI 结果。原方法依赖具有二维组织结构的视觉输入,而 EEG 通道顺序不天然等同于规则图像网格,需改造通道排列、空间编码及输入适配模块。低信噪比、跨被试分布变化、通道配置差异和小数据训练可能使视觉扫描机制失效。可检验的小实验是在同一 EEG 数据集、固定 Cross-subject 划分及训练预算下,对比二维扫描与一维时间扫描,并扰动通道排列,检验收益是否依赖人为顺序,同时测量不同时间窗长度下的运行成本。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读其用四条扫描路径将一维 selective scan 适配二维视觉数据的机制及输入规模扩展效率评估,但该机制对 EEG 的适用性尚未验证。

  5. OpenReview · State space models75

    MVGamba:将 3D 内容生成统一为状态空间序列建模

    基于摘要分析。MVGamba 针对 3D Gaussian 重建中的多视角不一致与纹理模糊问题,提出基于类 RNN 状态空间模型(SSM)的轻量多视角 Gaussian 重建器,并结合现成的多视角扩散模型,统一处理单张图像、稀疏图像或文本提示驱动的 3D 内容生成。 核心机制是沿序列传播包含多视角信息的因果上下文,支持跨视角自细化,同时以线性复杂度生成用于细节建模的长 Gaussian 序列。作者将既有方法的问题归因于采用计算密集型架构时对多视角信息传播的妥协;这一解释及其因果证据仍需正文核对。摘要未给出具体序列组织、SSM 实现、损失函数及训练配置。 作者报告,在所评估的各类 3D 内容生成场景中,MVGamba 优于先进基线,模型规模约为对照的 0.1 倍。摘要未明确该比例对应哪些模型,也未提供数据集、划分、评价指标或具体分数,因而不能据此推断推理速度或显存收益。实验协议、消融及统计信息尚未验证。摘要提供了代码仓库,但代码内容与复现条件尚未核验。 平台推测(待验证):可迁移假设是,SSM 的递归上下文传播或可用于 EEG 长时序建模;原方法依赖多视角图像结构及 3D 重建目标,并不直接对应 EEG 监督。可借鉴状态传播模块,但需重新设计时间与通道的序列组织、输入表征和任务输出,不能直接沿用 Gaussian 生成头。低信噪比可能使状态累积噪声,跨被试与通道差异可能破坏上下文一致性,小数据也可能限制训练。一个可证伪的小实验是在固定 EEG 数据划分与训练预算下,对比保留状态传播和重置状态的模型,检验较长上下文是否稳定改善任务指标。尚未检索确认已有 EEG 相关工作。

    阅读价值:值得阅读其以 SSM 传播跨视角上下文并生成长 Gaussian 序列的机制;作者报告以约 0.1 倍模型规模优于对照,但具体评估协议与 EEG 迁移价值尚未验证。

6月29日周六
  1. OpenReview · State space models67

    基于状态空间模型的多影像站点重性抑郁障碍分类

    基于摘要分析。本研究针对重性抑郁障碍(MDD)的多影像站点分类,使用 fMRI 的 BOLD 多变量时间序列,提出基于 Mamba 的状态空间模型,以捕获长期依赖并提取多尺度上下文信息。研究属于脑影像分类方法,摘要不涉及 BCI 系统或临床部署验证。 核心机制是利用 Mamba 在维持线性扩展性的同时建模时间依赖,并通过整合式架构统一处理 channel-mixing 与 channel-independence 两种情形,在不同尺度的全局与局部上下文中选择用于预测的信息。具体尺度构建方式、通道定义、模块连接、损失函数及训练流程尚未验证。 作者报告,在来自多个影像站点、共 1642 名被试的数据上,平均分类 Accuracy 为 69.91%,并称相较其他方法有所改善。摘要未明确被试内或跨被试划分、是否采用留站点测试、类别比例、平均方式及对照方法,因此该结果不能直接解释为跨站点泛化或临床诊断效能;实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设多尺度时间依赖与通道交互建模可迁移至 EEG,其可能对应长时程信息提取和多通道关联建模的瓶颈;可复用的是状态空间序列建模思路,需改造的是采样尺度、通道表示及预处理。fMRI 与 EEG 的时间分辨率和信号来源不同,EEG 的低信噪比、跨被试差异、通道配置变化及小数据条件可能削弱收益。一个可检验的小实验是在固定跨被试 EEG 划分、预处理与训练预算下,对比单尺度和多尺度 Mamba,并分别检验 channel-mixing 与 channel-independence 设置的作用。该迁移假设不构成本论文已验证的 EEG 结果,相关 EEG 工作尚未检索确认。

6月17日周一
  1. OpenReview · EEG69

    EEG2TEXT:基于 EEG 预训练与多视图 Transformer 的开放词汇 EEG-to-text 解码

    基于摘要分析。研究针对开放词汇 EEG-to-text 解码难以达到较高准确性的挑战,提出 EEG2Text,将 EEG 预训练与 multi-view transformer 结合,以增强 EEG 信号的语义学习并建模不同脑部空间区域的信号处理。 机制方面,摘要将 EEG 预训练的作用描述为增强从 EEG 信号中学习语义的能力,将 multi-view transformer 的作用描述为建模不同脑部空间区域。预训练目标、数据来源、空间视图的定义及融合方式、文本解码器与训练流程均尚未验证,不能据此确定其具体网络结构或损失形式。 结果方面,作者报告,在其开放词汇 EEG-to-text 实验中,相较摘要所称的现有最先进基线,BLEU 和 ROUGE 分数的绝对提升最高达 5%(原文表述)。摘要未给出具体指标变体、分数尺度、逐项结果或基线名称,因而不能将这一增益解读为解码 Accuracy 提高 5%,也不能判断它是否适用于所有评估条件。数据集、被试数量、被试内或跨被试协议、数据划分、消融及统计信息尚未验证。 复现时需核对 EEG 与文本的对应方式、训练与测试划分、预训练数据与评估数据的关系,以及各模块相对同条件基线的独立贡献。还需确认文本解码所需输入与推理条件,并比较仅依赖语言信息的对照,以判断生成质量提升中 EEG 信息的实际作用;这些是待核对事项,并非已确认的实验缺陷。摘要支持将该方法视为开放词汇脑信号到文本解码的研究方案,但尚不足以认定其已具备实际交流系统的可靠性。

1月16日周二
  1. OpenReview · Representation learning76

    NfgTransformer:标准式博弈的等变表示学习

    基于摘要分析。本文研究标准式博弈(Normal-form games,NFGs)的神经网络表示,核心问题是:策略重新编号不改变博弈本身,但模型应随策略置换相应变换其表示或输出。作者提出利用这一等变性的 NfgTransformer,以统一的 NFG 表示支持多种博弈论任务。 机制与贡献:摘要将策略置换等变性作为架构的归纳偏置,而非将策略排列视为具有固定语义的输入顺序。这一区分关注等变性而非单纯的不变性:博弈意义保持一致,策略相关表示仍需与重新编号对应。具体输入编码、注意力结构、等变性实现方式、损失函数与训练流程尚未验证。 结果与证据:作者报告,该方法在均衡求解、偏离收益估计(deviation gain estimation)与排序等任务中达到最先进性能,并称模型具有可解释性和多用途性。摘要未提供数据来源、博弈规模、训练与测试划分、对照基线、指标或具体数值,因此这些性能主张的适用范围,以及实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可借鉴之处是依据任务的真实对称性设计表示,但策略重新编号的等价性不能直接推广为 EEG 通道任意置换的等价性,因为通道通常具有电极位置和生理意义。是否能迁移到 EEG/BCI,需先确认对应的数据结构与对称性假设;现有材料不足以支持具体迁移方案或效果判断,相关 EEG 工作尚未检索确认。复现首先需要核对全文中的博弈生成或采样方式、监督信号、评估协议及实现可获得性。

    阅读价值:值得阅读其如何将策略置换等变性纳入统一的博弈表示,并核对该归纳偏置在均衡求解、偏离收益估计与排序任务中的实际贡献;摘要中的性能与可解释性主张尚需全文验证。