跳到正文
OpenReview · State space models· Marten Lienen; Abdullah Saydemir; Stephan Günnemann·· 2025-05-01精选AI 评分78

UnHiPPO:状态空间模型的不确定性感知初始化

UnHiPPO: Uncertainty-aware Initialization for State Space Models

AI 导读

基于摘要分析。该研究针对序列建模中 HiPPO 动力学初始化依赖无噪声数据假设的问题,将测量噪声纳入理论框架,提出不确定性感知的状态空间模型初始化 UnHiPPO。其主要贡献是重新表述数据与潜在系统的关系,使动力学能够从带噪观测中推断潜在系统的后验。 机制上,作者将 HiPPO 解释为线性随机控制问题,其中数据作为无噪声控制信号进入系统;随后将数据改为潜在系统的带噪输出,推导替代的动力学初始化。摘要未提供噪声分布、后验表示、具体初始化公式或训练目标,因此尚不能判断其对噪声模型的依赖及与不同状态空间模型实现的兼容性。 作者报告,该初始化在不增加运行时间的情况下,提高了状态空间模型在训练和推理阶段对噪声的抵抗能力。摘要未披露数据集、噪声强度、对照基线、评估指标及计时条件,具体实验协议、消融及统计信息尚未验证;这一结果不能直接视为 EEG 或 BCI 中的有效性证据。 平台推测(待验证):若 EEG 序列中的部分干扰可以建模为潜在信号的测量噪声,则其初始化机制可能有助于缓解低信噪比条件下的序列建模问题。可复用部分是状态空间动力学初始化,需核对或改造的是多通道观测映射、噪声假设及后验推断形式。运动伪迹等结构化干扰、跨被试分布差异、通道变化和小数据训练均可能使该假设失效,不能将一般抗噪能力等同于域泛化。 一个可检验的小实验是:在固定 EEG 任务与被试内数据划分下,保持状态空间模型主体、训练预算和随机种子设置一致,仅比较 HiPPO 与 UnHiPPO 初始化,并分别考察训练阶段和测试阶段注入预设测量噪声时的任务指标与运行时间。应区分模拟噪声与真实伪迹,以检验收益是否依赖特定噪声假设。已有 EEG 相关工作尚未检索确认;复现所需公式、代码与完整协议仍需查阅全文核实。

阅读价值

值得核对其将 HiPPO 的无噪声控制输入重构为潜在系统带噪观测的理论推导,以及训练和推理阶段的抗噪对照;其对 EEG 的价值尚未验证。

来源:OpenReview · State space models · openreview.net