跳到正文
OpenReview · State space models· Jack Goffinet; Casey Hanks; David Carlson·· 2026-05-01精选AI 评分77

HiPPO Zoo:用于可解释状态空间模型的显式记忆机制

HiPPO Zoo: Explicit Memory Mechanisms for Interpretable State Space Models

AI 导读

该研究针对序列模型如何压缩、保留并优先处理历史信息的问题,提出由五种 HiPPO 扩展组成的统一框架 HiPPO Zoo,将自适应记忆分配、关联记忆等能力表示为显式、可解释的多项式记忆机制。基于摘要分析,未取得论文全文。 HiPPO 通过结构化线性常微分方程,将信号投影到正交多项式(OP)基上,以压缩表示历史。摘要指出,后续状态空间模型(SSMs)常将 HiPPO 结构用作初始化,而 Mamba 等后继模型如何表示和优先处理历史仍较隐式。本文重新考察多项式历史表示,通过修改 HiPPO 框架显式表达不同建模能力,同时保留 OP 基中的直接可解释性。摘要未逐一说明五种扩展的名称、方程及训练目标。 作者报告,这些模型能够在线调整记忆,并以高效更新支持流式训练;合成序列建模任务展示了各扩展的行为和建模优势,说明现代 SSMs 的部分能力可以由显式多项式记忆结构实现。具体任务、数据规模、对照基线、性能指标、计算开销、消融及统计信息尚未验证,不能据此认定其优于 Mamba 或适用于真实神经信号。 平台推测(待验证):假设 EEG 任务需要在有限状态容量下保留不同时间尺度的信息,显式记忆机制可能有助于分析模型保留了哪些历史。可复用部分是多项式历史压缩与在线记忆更新;多通道输入映射、采样时间尺度及任务读出需要改造,其监督形式和数据规模要求仍待全文确认。低信噪比可能使记忆优先保留伪迹,跨被试差异、通道变化与小数据也可能削弱适应能力。可检验的小实验是在同一 EEG 任务、固定被试内划分及状态容量下,对照原始 HiPPO 与一种明确的扩展,比较任务性能和历史扰动后的记忆响应;这仅是迁移假设,并非论文结果。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读之处在于将自适应记忆分配与关联记忆写成可解释的 HiPPO 多项式记忆机制,但摘要中的验证限于合成序列任务,EEG/BCI 适用性尚未验证。

来源:OpenReview · State space models · openreview.net