跳到正文

算法、任务与模态

SSM 最新动态

SSM 研究索引;按可核对的标签归档,不以热度评价质量。

292 条精选近 30 天 30 条共收录 375 条

更新

精选归档 · 第 14 页

1月1日周一第 261–280 条
  1. OpenReview · State space models74

    Mamba-CL:在零空间中优化选择性状态空间模型以实现持续学习

    基于摘要分析。该研究面向持续学习中的灾难性遗忘,提出 Mamba-CL,通过在历史任务特征子空间的正交方向更新参数,持续微调大规模 Mamba 基础模型的核心 SSM,力求保留既有知识并学习新任务。 核心机制是将参数更新限制在历史特征子空间对应的零空间内。作者围绕 Mamba 的四个关键时不变参数推导整体一致性约束,处理 SSM 的递归状态空间结构与非线性离散化过程,再以零空间投影实现正交更新。作者声称,该方法在理论上保证各 SSM 模块在先前与当前任务上的输出一致性目标;具体保证的假设、约束范围,以及模块级一致性如何对应最终任务性能,需结合全文核对。 作者报告,在四个类别增量学习基准上,Mamba-CL 展现出抗遗忘效果,性能优于所比较的先进方法。摘要未提供基准名称、任务序列、数据划分、指标或具体数值,因此无法判断提升幅度及不同协议下的可比性。实验协议、消融及统计信息尚未验证。摘要称代码位于补充材料中,但其可获取性、运行配置与复现要求尚未核对。 平台推测(待验证):该机制可能对应 EEG 持续学习中新增类别或连续会话更新引起的遗忘,但依赖历史特征子空间能稳定表征需保留的知识。可复用的是零空间投影与参数一致性约束;需改造的是 EEG 时序输入、通道适配和特征子空间估计。低信噪比、跨被试差异、通道变化及小样本可能使子空间估计不稳定,或过度限制更新、妨碍新任务学习。一个可检验的假设是:在固定 EEG 类别增量协议下,使用相同 Mamba 骨干与数据划分,对照普通顺序微调和零空间约束更新,检验历史类别 Accuracy 的保留是否以新类别学习能力下降为代价。上述迁移不属于本文已验证结果,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其针对 Mamba 核心 SSM 参数推导的一致性约束与零空间投影实现,尤其是理论保证的适用条件及抗遗忘与新任务学习能力之间的权衡。

  2. OpenReview · State space models78

    MambaByte:无 token 的选择性状态空间模型

    基于摘要分析。MambaByte 研究直接从原始字节学习的无 token 语言建模,旨在避免子词分词的归纳偏置,同时缓解字节序列更长带来的计算与内存压力。其核心贡献是将 Mamba 状态空间模型(SSM)用于字节序列的自回归训练,并提出结合 tokenized drafting 与 byte-level verification 的推测解码适配方案。 机制上,摘要将标准自回归 Transformer 随序列长度增长的内存需求,与 Mamba 的固定大小记忆状态及高效解码进行对照。MambaByte 的建模单位是字节,而非子词;推测解码则用 token 化序列生成草稿,再在字节层面验证。具体状态更新、选择性机制、训练损失及草稿验证流程尚未验证。 作者报告,MambaByte 在语言建模任务上可与先进的子词 Transformer 竞争,部分表现更优,并保留无 token 模型的噪声鲁棒性优势。作者还报告,其推测解码适配方案相较标准 MambaByte 实现获得 2.6 倍推理加速,解码效率与子词 Mamba 相近。摘要未提供对应数据集、模型规模、任务指标、硬件、生成长度及对照配置,因此这些结果只能在作者所述比较范围内理解,实验协议、消融及统计信息尚未验证。 平台推测(待验证):其固定大小状态机制可能对应 EEG 长时序处理中随窗口长度增长的资源瓶颈,但字节语言建模依赖离散序列与自回归监督,不能直接等同于连续、多通道 EEG 建模。可考察 SSM 主干的复用,输入编码与训练目标需改造;tokenized drafting 的优势是否成立则取决于 EEG 是否存在合适的离散草稿表示。低信噪比、跨被试分布差异、通道变化及小数据可能削弱效果。一个可检验的小实验是在固定数据划分和参数预算下,比较 SSM 与 Transformer 在不同 EEG 窗口长度上的任务指标、峰值内存及推理延迟。上述仅为迁移假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读其以固定大小状态处理长字节序列的机制,以及结合 tokenized drafting 与 byte-level verification 的推测解码方案;摘要中的语言建模与效率结论仍需结合完整实验协议核对。

  3. OpenReview · State space models72

    PathMamba:用于病理图像多类别分割的弱监督状态空间模型

    基于摘要分析。该研究针对病理图像多类别分割中密集像素标注成本高的问题,提出仅使用图像级标签训练的弱监督状态空间模型 PathMamba,通过结合像素级与 patch 级特征学习局部细节和全局上下文。 方法首先将像素视为实例,基于 Multi-Instance Multi-Label Learning 提取像素级特征图,再将其注入 Contrastive Mamba Block。该模块结合状态空间模型与对比学习,提取病理图像中的非因果双粒度特征;作者另提出 Deep Contrast Supervised Loss,以更充分利用有限的标注信息。摘要未给出对比样本构造、双粒度特征交互方式、损失公式及推理流程,具体机制尚需全文核对。 作者报告,在两个公开病理图像数据集上,PathMamba 优于所比较的先进弱监督方法,并能生成区域一致性更好的分割结果。摘要未列出数据集名称、划分协议、评价指标、分数及对照方法,因此无法判断提升幅度及适用范围;实验协议、消融及统计信息尚未验证。摘要提供了代码仓库,但其运行条件与结果可复现性尚未验证。 平台推测(待验证):其可考察的跨领域机制是由样本级弱标签学习局部特征,并结合细粒度与粗粒度上下文;这不等于已证实的 EEG/BCI 效果。若 EEG 任务具有记录级标签而缺少事件级标注,可假设将像素实例改为时间窗实例、将 patch 改为较长片段,探索弱监督事件定位。状态空间与多实例学习模块可能可复用,但图像空间邻域、粒度定义和对比关系均需改造。低信噪比、跨被试差异、通道配置变化及小数据条件可能使局部特征聚焦于伪迹而非目标事件。一个可证伪的小实验是在具有事件标注的 EEG 数据上,仅用记录级标签训练,以保留的事件标注评估定位,并在相同被试划分下比较多实例学习基线与加入双粒度模块后的结果。相关 EEG 工作尚未检索确认。

    阅读价值:值得阅读其以图像级标签结合像素级与 patch 级特征进行多类别分割的机制,重点核对 Contrastive Mamba Block 与 Deep Contrast Supervised Loss 的具体实现及贡献;其对 EEG/BCI 的适用性尚未验证。

  4. OpenReview · State space models73

    RSMamba:基于状态空间模型的遥感图像分类

    基于摘要分析。该研究面向遥感场景分类,提出基于状态空间模型(SSM)的 RSMamba,旨在通过全局感受野与线性建模复杂度改善整幅图像的语义理解;其核心贡献是动态多路径激活机制,用于增强 Mamba 对二维非因果数据的建模能力。 机制方面,作者采用 Mamba 的硬件感知设计,并针对其原有因果序列建模方式与二维图像结构之间的不适配引入多路径激活,同时保留原有 Mamba 的建模机制。摘要未提供路径构造、激活规则、图像序列化方式、训练目标及具体架构细节,这些内容尚未验证。作者将其定位为潜在视觉基础模型骨干,但摘要并未展示基础模型预训练或迁移评估。 结果方面,作者报告在 UC Merced、AID、RESISC45 遥感图像分类数据集上的 F1 分别为 95.25、92.63、95.18,并称优于同期 Vim 和 VMamba。摘要未说明数值单位、训练与测试划分、F1 平均方式及对照训练条件,因此不能据此作严格的跨方法比较;实验协议、消融及统计信息尚未验证。材料提供了代码仓库,但实现与论文结果的一致性尚未核对。 平台推测(待验证):可迁移假设是,多路径机制或可用于离线 EEG 分类中的通道—时间联合建模,缓解单一序列顺序对跨通道关系表达的限制。可考虑复用 SSM 模块,重新设计 EEG 输入表示、通道顺序与路径构造;遥感图像的二维空间结构不能直接等同于 EEG 通道—时间结构。低信噪比、跨被试差异、通道布局变化及小数据规模均可能使收益消失,非因果路径也需与在线 BCI 的因果约束区分。一个可检验的小实验是在固定 Cross-subject 划分与训练预算下,对比单路径 Mamba 和多路径变体的离线 EEG 分类表现,并检查通道顺序扰动后的稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是其以动态多路径激活机制拓展 Mamba 对二维非因果数据的建模能力,但摘要中的遥感分类结果尚不能证明其适用于 EEG 或 BCI。

  5. OpenReview · State space models73

    SMamba:通过可伸缩状态空间模型实现任意尺度超分辨率

    基于摘要分析。研究针对任意尺度超分辨率(ASSR):用单一模型将低分辨率图像重建为任意目标尺度的高分辨率图像。作者提出正文称为 S³Mamba 的方法,通过 Scalable State Space Model(SSSM)构建可随尺度调整的连续表示空间,并结合尺度感知自注意力提取不同尺度下的重要全局特征。 机制上,摘要将隐式神经表示(INR)描述为连接坐标与像素值、重建连续信号的途径。SSSM 在离散化过程中调制状态转移矩阵及步长采样矩阵,作者称由此实现具有线性计算复杂度的连续尺度建模。尺度感知自注意力用于补充不同尺度下的全局特征感知;具体调制公式、尺度条件的注入方式、训练损失,以及线性复杂度是否涵盖完整网络,尚未验证。 作者报告,在合成与真实场景基准上的实验取得了最先进的性能及任意超分辨率尺度下的泛化能力。摘要未提供基准名称、训练与测试尺度划分、对照方法、指标或数值,因而尚不能核对其提升幅度,或区分已见尺度与未见尺度的泛化。实验协议、消融及统计信息尚未验证;代码与复现条件亦未确认。 平台推测(待验证):假设该尺度条件化的连续表示机制可用于 EEG 时间轴重采样或缺失采样点重建,其潜在对应问题是不同采样率下的信号表示一致性,而不是直接提升 BCI 分类效果。可考虑复用尺度调制的状态空间模块,但需将二维图像坐标改为时间坐标,并处理通道结构、频带约束与抗混叠;原任务依赖低分辨率输入及高分辨率重建目标,迁移所需监督和数据规模尚不明确。低信噪比、小样本及跨被试差异可能使模型重建伪波形或失真频谱。一个可证伪的小实验是在按被试隔离的数据上,对高采样率 EEG 进行抗混叠降采样,比较该机制与常规插值在未见采样比例下的波形、频谱及下游任务表现。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其通过离散化过程中的状态转移与步长采样调制实现连续尺度建模的机制,尤其是线性复杂度的适用范围及尺度外泛化证据;其对 EEG 的价值尚未验证。

  6. OpenReview · State space models73

    探索视觉状态空间模型对后门攻击的鲁棒性

    基于摘要分析。该研究考察 Visual State Space Model(VSS)对后门攻击的鲁棒性,重点分析状态空间模型(SSM)机制与图像 patch 处理如何影响触发器的有效性,并据此研究一种在每个 patch 中重复出现、旨在抵抗 patch 扰动的后门触发方式。 后门攻击使受感染模型在特定触发器出现时输出目标标签,而在正常样本上保持正常行为。作者报告,在所考察的不同触发器与模型对照中,SSM 捕获 patch 内上下文信息的机制使 VSS 比不含 SSM 的模型更容易受到后门触发器影响;另一方面,所测试的 patch 处理方式能够有效破坏这些触发器。逐 patch 重复触发的设计针对这一现象,试图使后门在 patch 扰动下仍然有效。摘要未提供具体触发器形式、投毒过程或 patch 处理操作。 作者报告,在三个数据集及多种后门攻击的实验范围内,VSS 的后门鲁棒性与 Transformers(ViTs)相近,但低于仅堆叠 Gated CNN blocks、不含 SSM 的 Gated CNNs。数据集名称、模型配置、训练与评估划分、投毒比例、攻击成功率及正常样本性能尚未验证,因此不能据此作定量比较或推广到所有 VSS 架构。实验协议、消融及统计信息尚未验证,复现时应重点核对架构对照是否控制了训练条件,以及 patch 处理对正常任务性能的影响。 平台推测(待验证):如果 EEG 分类模型也采用分段 token 与 SSM 上下文建模,重复的局部触发模式可能形成类似安全风险,但图像 patch 结论不能直接外推到 EEG。可复用的是局部触发、分段扰动与无 SSM 对照的评估思路;需改造的是适合 EEG 时间段及通道结构的触发方式。低信噪比、跨被试差异、通道布局变化和小数据条件均可能改变触发效果。一个可检验的小实验是在固定 EEG 数据划分和训练条件下,对比 SSM 与非 SSM 模型受到单段及重复分段触发时的攻击成功率和正常样本 Accuracy,同时评估分段扰动的影响。相关 EEG 后门研究尚未检索确认。

    阅读价值:该研究通过后门触发器与 patch 处理的对照分析考察 SSM 的安全风险,值得核对其能否区分 SSM 机制本身与其他架构、训练因素的影响。

  7. OpenReview · State space models71

    RSMamba:基于状态空间模型的遥感图像分类

    基于摘要分析。该研究面向遥感图像场景分类,提出基于状态空间模型(SSM)的 RSMamba,旨在兼顾整幅图像的全局理解与线性建模复杂度;核心贡献是通过动态多路径激活机制增强 Mamba 对非因果二维图像数据的建模能力,而非提出 EEG 或 BCI 方法。 技术机制:摘要将遥感场景的复杂性、多样性及其时空分辨率变化列为分类难点。RSMamba 采用硬件感知的 Mamba 设计,在保留原有建模机制的同时,引入动态多路径激活,以应对原始 Mamba 的因果序列建模方式与二维图像结构之间的不匹配。路径如何构造、动态激活如何实现,以及训练目标和推理流程,摘要未提供细节,尚未验证。 结果与复现:作者报告,RSMamba 在多个遥感图像分类数据集上表现更优,但摘要未给出数据集名称、划分协议、对照配置、指标或数值,不能据此量化优势。作者据此提出其作为未来视觉基础模型骨干的潜力,这不等于已经完成基础模型验证。摘要表示代码将公开,当前可用性尚未验证;实验协议、消融及统计信息亦尚未验证。 平台推测(待验证):若多路径机制确实能够减少单一序列顺序对建模的限制,则可能为离线 EEG 的时间—通道联合建模提供参考。可考虑复用 SSM 建模模块,但图像路径需改造成符合电极拓扑与时间结构的路径,分类输入和任务监督也需适配。低信噪比、通道布局变化、跨被试差异及小样本训练可能削弱收益;非因果建模还需与在线 BCI 的因果约束区分。一个可检验的小实验是在固定 EEG 数据划分、预处理及训练预算下,对照单路径 Mamba 与多路径变体,分别检查被试内和跨被试表现,并测试通道扰动下的稳定性。以上仅为机制迁移假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是其以动态多路径激活机制扩展 Mamba 对非因果二维数据的建模能力,但性能优势及其对 EEG 的迁移价值仍需分别验证。

9月22日周五
  1. OpenReview · State space models78

    用于上下文强化学习的结构化状态空间模型

    基于摘要分析。本文研究结构化状态空间序列模型如何用于上下文强化学习,核心贡献是修改 S4 的一种变体,使隐状态能够并行初始化与重置,并用于部分可观测环境及需要长程上下文的元学习任务。研究对象是强化学习智能体,而非 EEG 解码或 BCI 系统。 机制上,论文利用结构化状态空间模型的长序列处理能力、快速推理与可并行训练特性,解决强化学习轨迹中的隐状态管理问题。摘要未说明具体状态更新方程、重置实现、训练目标及上下文组织方式,这些内容尚需核对全文。 作者报告,修改后的架构相对于 Transformers 在序列长度维度具有更优的渐近运行复杂度,并在一个简单的记忆任务上优于 RNN。在一组部分可观测环境中,作者报告模型表现优于 RNN,同时运行速度超过其五倍;摘要未提供环境名称、性能指标、硬件、批量大小或计时口径,不能将该速度优势直接推广到其他配置。 元学习评估中,智能体面对随机采样的连续控制环境,同时环境观测与动作经过随机采样的线性投影。作者报告模型在这一任务上取得较强表现,并能适应分布外留出任务;具体任务划分、适应流程、对照结果与统计信息尚未验证。摘要提供了代码地址,但代码与实验配置尚未核验。 平台推测(待验证):若研究目标是带有反馈和跨回合上下文的 BCI 自适应控制,其长程状态处理及重置机制可能具有复用价值。假设是该机制能在低延迟约束下保留历史反馈并正确处理回合边界;需将原有观测、动作接口改为 EEG 特征与 BCI 控制输出,并明确奖励及交互协议。低信噪比、被试差异、通道变化和小规模交互数据可能使历史状态积累噪声,而非促进适应。可先在固定 EEG 特征编码器和一致的离线反馈协议下,对比该模型与 RNN 的序列决策表现、推理延迟及回合重置后的稳定性,严格隔离训练与测试被试。已有 EEG 相关工作尚未检索确认,该实验建议不代表已证实的 BCI 效果。

    阅读价值:值得阅读的具体原因是其针对强化学习轨迹改造了结构化状态空间模型的并行隐状态初始化与重置机制,并报告了部分可观测任务中的性能与运行速度优势;这些优势能否迁移到 EEG/BCI 尚未验证。

4月25日周二
  1. OpenReview · State space models72

    用于多视图强化学习的信息论状态空间模型

    基于摘要分析。本文研究 Multi-View Reinforcement Learning(MVRL)中如何利用来自多个来源、具有时间依赖且可能间歇缺失的观测进行最优控制,提出 Fuse2Control(F2C),以信息论方法从多视图观测序列中捕获底层状态空间模型。 核心问题是:多视图表示学习所提取的潜在表示并不必然适合控制任务,尤其是在观测具有时间依赖、部分视图间歇缺失时。F2C 的目标是聚合各视图中与任务相关的信息,并以状态空间模型支持控制。摘要未给出具体信息论目标、损失形式、状态转移与观测模型参数化、训练或推理流程,因此这些机制尚待全文核对。 作者报告,在多种控制任务上的实验中,F2C 能有效聚合多视图的任务相关信息,随视图数量线性扩展,并对任意缺失视图情形保持鲁棒性。摘要未说明线性扩展具体指计算量、存储量还是其他开销,也未提供任务名称、对照基线、缺失模式、结果指标或数值;实验协议、消融及统计信息尚未验证,不能据此确定其相对优势大小。 平台推测(待验证):若将多通道 EEG 或同步多模态神经观测组织为时间对齐的多视图序列,并具备控制任务反馈,F2C 的状态建模与缺失视图处理思路可能对应 BCI 中传感器缺失和时序信息整合问题。可考虑复用多视图融合与状态表示思路,但观测编码、时间同步和控制反馈接口需适配;低信噪比、跨被试差异、通道冗余及小数据训练可能使潜在状态不能稳定保留控制相关信息。一个可检验的小实验是在固定被试内划分和同一控制任务下,对完整观测与预设通道组间歇缺失条件进行比较,核对 F2C 相对同一基线的控制表现及随视图数变化的计算开销。原领域有效不等于 BCI 有效,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对 Fuse2Control 如何从时序多视图观测中提取控制相关状态并处理缺失视图;作者报告的线性扩展性与缺失鲁棒性具有方法阅读价值,但其 EEG/BCI 适用性尚未验证。

1月1日周日
  1. OpenReview · State space models78

    Meta-State-Space Learning:随机动力系统的辨识方法

    基于摘要分析。本文研究如何从输入—输出数据辨识随机动力系统,旨在减少既有方法对噪声结构或状态概率分布的限制性假设。核心贡献是将一类非线性随机系统表示为 meta-state-space 模型,再用 Artificial Neural Network(ANN)学习其中的非线性函数,以预测随时间变化的输出分布。 机制上,meta-state 可解释为状态概率函数空间参数化的参数向量。原系统的状态具有随机性,但该分布表示的 meta-state 动力学是确定性的,因此可通过确定性模型辨识随机系统。摘要称这一表示对广泛的一类非线性随机系统是精确的;具体系统类别、分布参数化方式及表示成立条件需由正文核对。这里的 meta-state 指分布层面的状态表示,不应仅凭名称理解为元学习。 作者报告,在其高度非线性、高度随机的系统实验中,所辨识模型的 log-likelihood 接近理论极限。摘要未提供数值、数据规模、划分、对照基线或理论极限的计算方式,故尚不能据此判断收益幅度与泛化能力。实验协议、消融及统计信息尚未验证,ANN 结构、训练目标和实现条件也尚未验证。 平台推测(待验证):若 EEG 时序可合理描述为受输入驱动的随机动力系统,该机制或可用于刻画输出分布的不确定性,而非只预测均值。可复用的是分布状态的确定性演化框架,需改造的是 EEG 观测映射、分布参数化及可观测输入的定义;其对监督形式和数据规模的依赖尚未明确。低信噪比、通道变化、跨被试差异及小数据可能使分布辨识不稳定。一个可检验的假设是:在固定通道、被试内且严格隔离训练与测试时段的 EEG 预测任务中,该表示较匹配容量的概率预测基线改善测试 log-likelihood 与分布校准;这不等于改善 BCI 解码性能。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其将随机状态分布演化转化为确定性 meta-state 动力学的表示与辨识机制;作者报告的对数似然接近理论极限,但适用条件和实验协议尚未验证。

  2. OpenReview · State space models70

    基于结构化状态空间模型的扩散式条件 ECG 生成

    基于摘要分析(仅提供 Highlights,未取得论文全文)。本研究面向心电图(ECG)合成,使用结构化状态空间模型支持扩散生成,并以 71 种 ECG 描述作为条件,目标是生成符合指定心电特征的信号;研究对象不是 EEG 或 BCI。 方法层面,材料明确了条件生成、扩散模型与结构化状态空间模型的组合,但尚未说明条件编码方式、状态空间模块在生成模型中的位置、训练目标及采样流程。71 种 ECG 描述的定义、组合方式与标注来源也尚未验证。 作者报告,所提模型在多种指标上优于 GAN-based models,并称其达到当前最优水平;但所用数据集、数据划分、对照模型、指标名称及具体数值未在材料中提供,因而无法判断优势幅度或比较条件。作者还报告,类别插值与 ECG 领域知识一致,心脏科医生参与的图灵测试支持生成样本具有较高质量;评估人数、盲法、判断任务与统计信息尚未验证。 阅读与复现时需核对条件一致性、信号质量的评价方法,以及训练数据和生成样本的关系。实验协议、消融及统计信息尚未验证。现有材料不足以建立具体的 EEG/BCI 迁移机制,因此不将 ECG 生成结果视为 BCI 有效性证据;已有 EEG 相关工作尚未检索确认。

    阅读价值:值得关注其以结构化状态空间模型支持条件扩散生成 ECG 的方法组合,以及类别插值与心脏科医生评估提供的验证线索,但性能优势及评估协议尚需全文核对。

  3. OpenReview · State space models76

    用于语音识别的多头状态空间模型

    基于摘要分析。该研究针对语音识别中的序列建模,提出带特殊门控机制的多头状态空间模型 MH-SSM,使并行头学习局部与全局时间动态;同时提出以 MH-SSM 层增强 transformer 模块的 Stateformer。 机制与对照:MH-SSM 被设计为 transformer 编码器中多头注意力的可直接替换模块。作者报告,在 LibriSpeech 语音识别任务上,该架构显著优于 transformer transducer,但摘要未提供这一替换方案的具体分数及显著性检验细节。Stateformer 则采用增强 transformer 模块的方式,不能与完全替换注意力的方案混为一谈。门控形式、状态空间参数化、训练目标及推理实现尚未验证。 结果:作者报告,Stateformer 在不使用外部语言模型的条件下,开发集 word error rate 为 1.76%/4.37%,测试集为 1.91%/4.36%,并称其达到 LibriSpeech 任务的当时最优表现。摘要未明确两组数值对应的子集名称,因此不补写;训练数据配置、对照设置、消融及统计信息尚未验证,也不能据此推断其计算效率优势。 平台推测(待验证):假设局部与全局时间动态的并行建模能缓解 EEG 长序列中短时事件与较长时间依赖难以兼顾的问题,可尝试复用 MH-SSM 序列模块,但需改造 EEG 通道输入与任务输出。原任务依赖语音序列及语音识别监督,其收益对训练规模的依赖尚不清楚;低信噪比、通道差异、跨被试分布变化及小数据可能使门控学到噪声或被试特异模式。一个可证伪的小实验是在同一 EEG 任务、固定跨被试划分和训练预算下,仅将基线编码器的多头注意力替换为 MH-SSM,比较预先指定的任务指标与跨被试稳定性。已有 EEG 相关工作尚未检索确认。

    阅读价值:MH-SSM 通过带门控的并行状态空间头建模局部与全局时间动态,值得核对其替换及增强注意力模块的实现与对照,但语音识别收益能否迁移至 EEG 尚未验证。

  4. OpenReview · State space models73

    用于多视图强化学习的信息论状态空间模型

    基于摘要分析。本文研究 Multi-View Reinforcement Learning(MVRL):智能体如何利用多个来源的观测学习最优控制,尤其关注观测之间的时间依赖,以及部分视图间歇性缺失的问题。作者提出 Fuse2Control(F2C),以信息论方法从多视图观测序列中捕获底层状态空间模型,为控制任务聚合相关信息。 机制与贡献:原问题并非一般的多视图表示学习,而是面向控制的时序状态建模。其核心思路是从多来源序列中提取与任务相关的潜在状态,处理单纯提取多视图表示难以直接适用于控制的问题。摘要未提供信息论目标的具体形式、状态转移与观测模型的参数化方式、训练损失或推理流程,不能据此将 F2C 等同于某类具体状态空间网络。 结果与证据边界:作者报告,在多种控制任务的实验中,F2C 能有效聚合多个视图中的任务相关信息,随视图数量线性扩展,并对任意视图缺失情形保持鲁棒性。摘要未列明任务名称、数据规模、对照基线、指标或数值,也未说明线性扩展对应计算量、内存还是其他量;缺失模式、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将多来源神经信号或辅助传感器表示为时间对齐的观测视图,该方法可能对应 BCI 中多模态融合与输入缺失的瓶颈。可考察复用状态建模与视图聚合思路,但观测编码、时序对齐及控制反馈需针对 EEG 改造;低信噪比、跨被试差异和小样本可能使潜在状态捕获非任务因素。一个可检验的假设是:在固定数据划分和训练预算下,加入控制相关状态建模能否比简单融合更好地抵抗视图缺失;可先在具备控制反馈的多视图小规模任务中,对照完整输入与预设缺失模式测试。原文未报告 EEG/BCI 验证,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得关注其将多视图时序观测融合为控制相关潜在状态、并处理间歇性视图缺失的机制,但具体信息论目标、线性扩展的计量对象及缺失协议仍需全文核对。

  5. OpenReview · State space models77

    使用状态空间 Transformer 进行高效电影场景检测

    基于摘要分析。研究针对电影场景检测需要跨越长视频片段进行推理、而常见视频识别模型侧重短时分析的问题,提出可端到端训练的 TranS4mer,以分层的局部与长程建模捕获电影场景线索。原论文研究对象是电影视频,并非 EEG 或 BCI。 核心模块 S4A 结合 structured state-space sequence(S4)与自注意力(A)。输入为已划分为镜头的帧序列:模块先通过自注意力捕获镜头内部的短程依赖,再用状态空间运算聚合镜头之间的长程线索;多个 S4A 模块堆叠构成 TranS4mer。其机制依赖帧—镜头的层级结构,区别于仅对短视频片段建模的方案。具体监督信号、损失函数、模块数量、训练规模与镜头划分方式尚未验证。 作者报告,TranS4mer 在 MovieNet、BBC 和 OVSD 三个电影场景检测数据集上优于此前方法;相较标准 Transformer,速度为其 2 倍,所需 GPU 显存约为其三分之一。摘要未给出检测指标、数据划分、基线配置及测速硬件、序列长度等条件,因此这些结果不能脱离原评估协议比较。实验协议、消融及统计信息尚未验证。作者表示将发布代码和模型,材料不能确认其已公开。 平台推测(待验证):迁移假设是,将 EEG 长记录划为局部时间窗,以自注意力处理窗内关系、以 S4 聚合跨窗依赖,可能缓解长序列全局注意力的计算负担。可复用的是局部—长程分工,需改造视频特征输入、分段策略及任务输出,并重新设计监督目标。EEG 缺少天然镜头边界,低信噪比、跨被试差异、通道配置变化及小数据训练均可能使该结构失效。可检验的小实验是在同一 EEG 数据划分与训练预算下,对比该结构、纯自注意力及纯 S4,检验长上下文是否带来任务指标收益,并记录显存与运行时间;这不是原论文已证实的结论,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得关注其以镜头内自注意力与镜头间状态空间运算分工处理长视频的机制;作者报告了效率优势,但能否迁移到 EEG 长序列建模尚未验证。

  6. OpenReview · State space models76

    用于上下文强化学习的结构化状态空间模型

    基于摘要分析。该研究面向上下文强化学习,改造 S4 的一个变体,使隐藏状态能够并行初始化与重置,以兼顾强化学习中的状态管理、长序列记忆和计算效率。主要研究对象是部分可观测环境与连续控制元学习任务,而非 EEG 或 BCI。 机制上,作者利用结构化状态空间序列模型的长程建模能力、快速推理与可并行训练特性,将隐藏状态的初始化和重置纳入并行处理。摘要未说明具体状态更新方程、改造方式、训练目标或上下文组织方式,这些实现细节尚未验证。 作者报告,改造后的架构在序列长度维度上的渐近运行效率优于 Transformers,并在一个简单的记忆任务上表现优于 RNN。在所评估的一组部分可观测环境中,作者报告模型表现优于 RNN,同时运行速度超过其五倍;摘要未给出环境名称、性能指标、硬件、计时口径及匹配的模型规模,因此该速度结论不能直接外推到其他任务。元学习评估中,智能体面对随机采样的连续控制环境,且环境观测与动作经过随机采样的线性投影;作者报告模型在该任务上取得较强表现,并能适应分布外留出任务,但具体分数、划分方式与适应过程尚未验证。 平台推测(待验证):若 EEG 任务需要保留长时间上下文,同时在试次或会话边界显式重置状态,该并行状态管理机制可能提供可复用思路。原研究依赖连续交互轨迹及强化学习训练信号,不能直接等同于 EEG 分类;可考虑复用序列骨干与重置机制,但输入编码、训练目标和边界定义需改造。低信噪比、通道差异、跨被试分布变化及小数据规模可能削弱长程记忆收益。一个可检验的小实验是在固定被试内 EEG 划分、相同输入与训练预算下,对比该状态空间实现与 RNN,随上下文长度变化测量任务指标、推理延迟及边界重置后的表现,不预设其优势。已有 EEG 相关工作尚未检索确认。 摘要提供代码仓库 s5rl。实验协议、消融及统计信息尚未验证,复现前需核对状态重置实现、环境配置、基线匹配和速度测量条件。

    阅读价值:值得核对其并行初始化与重置隐藏状态的实现,以及部分可观测强化学习中的速度—性能权衡;该机制对跨回合长序列建模有参考价值,但 EEG/BCI 适用性尚未验证。

  7. OpenReview · State space models75

    ODE-RSSM:从不规则采样数据中学习随机循环状态空间模型

    基于摘要分析。该研究针对具有非线性和随机性的输入—输出系统,提出连续时间随机循环状态空间模型 ODE-RSSM,以解决多数离散时间 SSM 难以处理不规则采样观测的问题。其主要贡献是用 ODE-Net 描述相邻观测时点之间的潜状态演化,并通过重参数化支持不同时间跨度的 ODE 批量并行求解。 机制上,ODE-RSSM 将连续时间演化引入潜状态建模;批量求解方法受到积分上下限等价线性变换的启发,旨在提高不规则采样序列的训练效率。摘要未说明随机状态的具体分布、观测模型、损失函数及 ODE 求解器配置,这些实现条件尚未验证。 作者报告,在三个输入—输出数据集的开环预测评估中,ODE-RSSM 优于所比较的基线,包括预测时点间隔不均匀、间隔长度分布变化的情形。其中一个数据集为具有较强长期延迟和随机性的私有工业数据集 rollout。摘要未提供具体指标、数值、数据划分或基线名称,实验协议、消融及统计信息尚未验证。材料提供了代码仓库,但代码可运行性及私有数据实验的可复现性尚未验证。 平台推测(待验证):若 EEG 任务存在采样缺失、异步多模态观测或不规则事件间隔,连续时间潜状态演化和非均匀时间跨度批量求解可能具有方法参考价值;原领域有效不等于 BCI 有效。可复用部分是时间演化与求解机制,需改造观测编码、输入—输出定义和随机状态建模以适配 EEG 通道及任务监督。低信噪比、跨被试差异、通道缺失和小数据可能使潜状态估计不稳定,连续轨迹也可能难以描述短暂事件。一个可检验的小实验是在固定被试内划分下,对同一 EEG 预测任务施加不同程度的时间点删除,比较 ODE-RSSM 与离散时间模型在相同可见观测及预测时点上的误差和运行成本。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是其面向不规则时间间隔的连续时间潜状态建模,以及非均匀时间跨度下批量 ODE 求解的重参数化机制;这些机制对缺失或异步神经信号的适用性尚未验证。

10月17日周一
  1. OpenReview · State space models78

    基于模型的强化学习中深度状态空间模型的不确定性研究

    基于摘要分析。本文研究基于模型的强化学习中 Recurrent State Space Models(RSSMs)的不确定性建模与推断机制,提出 Variational Recurrent Kalman Network(VRKN),以更明确地区分偶然不确定性与认知不确定性。原论文主要研究对象是强化学习中的环境动态模型,并非 EEG 解码或 BCI。 作者报告,RSSMs 使用的次优推断方案会使模型高估真实系统的偶然不确定性,而这种高估产生的隐式正则化有助于其在基于模型的强化学习中取得效果。作者进一步提出假说:该正则化可能发挥与显式建模认知不确定性相似的作用。这一功能解释应与作者报告的高估现象区分,不能视为已普遍证实的等价关系。 VRKN 在潜在空间中使用 Kalman 更新进行精确平滑推断,并通过 Monte Carlo Dropout 建模认知不确定性。作者指出,Kalman 更新使其能够自然处理缺失观测,以及每个时间步观测数量不同的传感器融合问题。具体潜在状态假设、训练目标与平滑推断实现尚未验证。 作者报告,在需要准确刻画偶然不确定性的任务中,以 VRKN 替代 RSSM 可改善性能,而在确定性的标准基准上表现相当。摘要未提供任务名称、数据规模、评价指标或具体数值;实验协议、消融及统计信息尚未验证,不能据此推断其在所有强化学习任务中均优于 RSSM。 平台推测(待验证):若将 EEG 建模为潜在动态过程的带噪观测,这种区分两类不确定性并处理缺失观测的机制,可能对应信号缺失或异步多模态融合问题。可考察复用潜在状态更新与不确定性建模组件,但需改造 EEG 观测编码、时间尺度及监督目标;低信噪比、跨被试分布变化、通道配置差异和小数据可能使潜在动态假设或不确定性估计失效。一个可检验的小实验是在固定被试内划分、训练数据和下游任务的条件下,比较 RSSM 与 VRKN 在逐步增加缺失时间窗时的预测误差与不确定性校准表现。原领域结果不等于 BCI 有效性,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是作者对 RSSMs 中偶然不确定性高估与隐式正则化关系的分析,以及用 VRKN 分开建模两类不确定性的替代方案;其对 EEG 缺失观测与多模态融合的价值尚未验证。

1月1日周六
  1. OpenReview · State space models75

    采用 Laplace 近似的 Gaussian process 状态空间模型

    基于摘要分析。本文研究 Gaussian process 状态空间模型的近似推断:这类模型以 Gaussian process 描述状态转移,提供概率化、非参数的时间序列建模,但其推断难以精确求解。核心贡献是结合 Gaussian process 后验的随机变分推断与时间状态的 Laplace 近似,在保留模型条件依赖的同时联合处理时间状态,避免逐时序学习。 机制与对照:摘要指出,既有变分方法或对近似后验引入简化的独立性假设,或按时间顺序迭代学习状态,后者使当前状态后验的学习依赖过去状态后验的收敛。本文通过 Laplace 近似联合处理时间状态,针对这一优化瓶颈提出替代推断方案。具体后验参数化、优化目标、计算复杂度及近似实现尚未验证。 结果与证据边界:作者报告,在合成数据及一系列基准数据集上,该方法具有计算效率优势,并较所比较的先进替代方法获得更好的预测校准。摘要未提供数据集名称、划分、对照方法、校准指标或数值,因此无法判断优势幅度及适用条件;实验协议、消融及统计信息尚未验证。 平台推测(待验证):迁移假设是,联合状态推断可能有助于 EEG 潜在动态建模中的优化与不确定性估计,而非直接构成 BCI 解码方法。该路径依赖有序时间观测和可用的观测模型;可复用的是推断框架,需改造的是 EEG 观测映射及噪声模型。低信噪比、跨被试与通道差异、小数据,以及潜在后验偏离 Laplace 局部近似条件,都可能限制效果。可先在固定被试内划分的 EEG 时间序列预测任务上,保持状态转移与观测模型一致,仅比较联合 Laplace 推断与顺序推断的预测校准和优化耗时,以检验该机制是否带来收益。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读其以 Laplace 近似联合处理时间状态、同时保留模型条件依赖的推断机制;作者报告预测校准优于对照方法,但具体评估协议及其对 EEG 的适用性尚未验证。

  2. OpenReview · State space models77

    使用状态空间 Transformer 的高效电影场景检测

    基于摘要分析。本文研究电影场景检测:场景理解需要跨越较长电影片段整合线索,而多数视频识别模型侧重短时分析。作者提出可端到端训练的 State-Space Transformer 模型 TranS4mer,通过结合局部自注意力与长程状态空间运算,建模电影中的短程和长程依赖。 核心模块 S4A 结合 structured state-space sequence(S4)与自注意力(A)。输入是已划分为电影镜头的帧序列;模块先用自注意力捕获镜头内短程依赖,再用状态空间运算聚合镜头间长程线索。TranS4mer 由多个 S4A 模块堆叠构成,具体堆叠数量、特征提取方式、损失函数及训练配置尚未验证。该设计的关键在于利用镜头这一层级结构,分别处理局部关系与跨镜头上下文。 作者报告,在 MovieNet、BBC 和 OVSD 三个电影场景检测数据集上,TranS4mer 优于此前方法;相较标准 Transformer,速度为其 2 倍,GPU 显存需求约为其三分之一。摘要未给出检测指标、划分协议、具体对照配置及效率测量条件,因此这些结果仅适用于作者所述电影场景检测评估,实验协议、消融及统计信息尚未验证。作者表示将发布代码和模型,材料不能确认其已公开。 平台推测(待验证):可检验的迁移假设是,将局部交互与长程状态聚合分离,可能缓解长时 EEG 建模的计算负担。可复用的是 S4A 的分工机制,但电影镜头结构不能直接等同于 EEG 时间窗;需要改造信号编码、时间分段与任务监督。摘要也不足以判断原方法的数据规模要求。低信噪比、跨被试差异、通道布局变化及小数据训练均可能使局部注意力学习到噪声,或使长程聚合混合不同生理状态。一个小规模可证伪实验是在同一 EEG 数据集、固定跨被试划分及相同输入长度和训练预算下,对比局部注意力加 S4、纯注意力和纯 S4,核对任务指标与速度、显存,并测试时间窗长度变化。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的是 TranS4mer 将镜头内自注意力与镜头间 S4 状态空间聚合分工结合的长序列建模机制;其效率优势由作者报告,对 EEG 的迁移价值尚未验证。

1月1日周五
  1. OpenReview · State space models74

    图卷积神经网络的非线性状态空间推广

    基于摘要分析。本文研究图卷积神经网络(GCNN)在网络数据上的表示学习,从状态空间视角解释图卷积,并提出以非线性、参数化状态更新进行层内节点聚合的一类推广模型,旨在改善特征提取与传播稳定性之间的权衡。 核心机制:作者将图卷积模块描述为一种简约的线性状态空间模型,其中状态更新矩阵是图移位算子。作者指出,这种更新本身非参数化,且随图谱性质可能出现状态爆炸或衰减,使 GCNN 的可学习自由度需要同时承担特征提取与处理不稳定性的任务。所提方法将节点特征聚合改为非线性、参数化的状态空间过程,并构建两种受递推机制启发的架构,分别不采用和采用节点门控,从而增加控制状态更新的手段。摘要未给出具体状态方程、门控形式、损失函数或训练配置,尚不能判断其稳定性保障属于理论性质还是经验改善。 结果与证据边界:作者报告,在 source localization 和 authorship attribution 任务上,所提非线性状态空间推广模型优于基线 GCNN。摘要未提供数据集、划分、评价指标和数值;实验协议、消融及统计信息尚未验证。这里的 source localization 未被明确描述为 EEG 源定位,不能据此视为脑信号验证。 平台推测(待验证):迁移假设是,当 EEG 通道或脑区被表示为图节点、节点具有信号特征且图移位算子已定义时,可学习状态更新与节点门控可能缓解多步图传播中的特征衰减或放大。可复用的是层内聚合机制;需改造和核对的是 EEG 图构建、时序特征接口及训练监督。低信噪比、跨被试连接差异、通道变化及小数据条件可能使额外参数过拟合,或使门控抑制弱但有效的信号。一个可检验的小实验是在固定 EEG 图、相同特征与预先确定的跨被试划分下,对比 GCNN、无门控和有门控版本,在控制参数预算的同时考察任务指标及传播状态幅值;该实验是迁移建议,并非论文已验证结果。相关 EEG 工作尚未检索确认。

    阅读价值:值得阅读的具体原因是作者将图卷积的传播稳定性与状态空间更新联系起来,并提出可参数化的非线性节点聚合机制;其对 EEG 图建模的价值尚未验证。