跳到正文
OpenReview · State space models· Farnoush Rezaei Jafari; Grégoire Montavon; Klaus Robert Muller; Oliver Eberle·· 2024-09-26精选AI 评分74

MambaLRP:解释选择性状态空间序列模型

MambaLRP: Explaining Selective State Space Sequence Models

AI 导读

基于摘要分析。本文研究选择性状态空间序列模型 Mamba 的可解释性,提出 MambaLRP,将 Layer-wise Relevance Propagation(LRP,逐层相关性传播)引入 Mamba,以改善相关性传播的稳定性与解释可靠性。原论文的主要对象是通用序列模型,而非 EEG 或 BCI 系统。 机制上,作者以相关性守恒公理为指导,识别 Mamba 架构中可能导致解释不忠实的组件,并在 LRP 框架内提出修正算法。其重点是解释传播规则,而不是改进序列预测模型本身。摘要未说明涉及哪些具体组件、传播公式及其理论成立条件,这些内容需要正文核对。 作者报告,MambaLRP 在多种模型与数据集上取得领先的解释性能,并可用于检查模型偏置、评估偏置的重要性,以及分析此前关于 Mamba 长程能力的推测。但摘要未提供模型名称、数据集、解释评价指标、对照方法或数值,因此无法判断领先幅度与适用范围,也不能将解释性能等同于预测性能。实验协议、消融及统计信息尚未验证,代码与复现条件亦尚未验证。 平台推测(待验证):若 EEG 任务已采用 Mamba,MambaLRP 可能用于检查预测是否依赖预期时间片段,或是否受到伪迹及被试特异线索影响。可复用的是相关性守恒导向的解释框架;需核对并适配 EEG 的输入表征、通道映射与预处理,不能直接把相关性视为神经生理因果证据。低信噪比、通道相关性、跨被试差异及小样本训练均可能削弱解释稳定性。一个可检验的小实验是:固定同一 EEG Mamba 模型与测试划分,对比 MambaLRP 和原始 LRP,遮蔽各自识别的高相关时间片段并设置随机遮蔽对照,检查预测变化及解释在轻微扰动下的稳定性。该实验仅检验解释忠实性,不代表 BCI 性能提升;已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是其以相关性守恒为依据修正 Mamba 的解释传播,并尝试检验偏置与长程依赖能力;解释忠实性的具体证据及其对 EEG 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net