跳到正文
OpenReview · State space models· Haonan Yuan; Qingyun Sun; Zhaonan Wang; Xingcheng Fu; Cheng Ji; Yongjian Wang; Bo Jin; Jianxin Li·· 2024-12-31精选AI 评分75

DG-Mamba:基于选择性状态空间模型的鲁棒高效动态图结构学习

DG-Mamba: Robust and Efficient Dynamic Graph Structure Learning with Selective State Space Models

AI 导读

基于摘要分析。本文研究动态图因结构不完整、噪声与冗余而导致的动态图神经网络鲁棒性问题,提出 DG-Mamba,将选择性状态空间模型 Mamba 引入动态图结构学习,目标是高效修正图结构、捕获长距离时空依赖并学习鲁棒表示;原研究对象是一般动态图,而非 EEG 或 BCI。 方法包含三个相互配合的机制:核化动态消息传递算子用于加速时空结构学习,作者称其将相关计算的时间复杂度由二次降至线性,但摘要未给出复杂度所对应的变量和适用条件;将动态图视为状态空间系统,利用跨快照图邻接关系离散化系统状态,并通过选择性快照扫描捕获长距离依赖;引入自监督 Principle of Relevant Information 正则化,鼓励保留相关信息并减少冗余。具体核函数、状态更新公式、正则化目标及训练流程尚未验证。 作者报告,在对抗攻击评估中,DG-Mamba 相较所比较的先进基线具有更好的鲁棒性与效率。摘要未提供数据集、任务、划分协议、攻击类型与预算、指标或数值,因此不能判断优势幅度及其适用范围;实验协议、消融及统计信息尚未验证,代码与复现条件也尚未确认。 平台推测(待验证):若 EEG 任务可表示为按时间排列的通道连接图,该方法可能对应动态连接估计中的噪声、冗余边及长程依赖问题。可考虑复用动态图结构优化与状态扫描机制,但需改造节点特征、连接定义及快照尺度;其依赖图快照和跨快照邻接信息,摘要不足以确认所需监督形式与数据规模。低信噪比可能使学习到的边反映伪相关,跨被试差异、通道变化和小数据也可能削弱效果。一个可证伪的小实验是在固定被试内划分与相同下游模型下,比较固定连接图与 DG-Mamba 学习图,并评估受控通道噪声或边扰动下的性能、耗时变化。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性证据。

阅读价值

值得核对其核化动态消息传递、跨快照状态更新与信息正则化如何共同实现结构学习的效率和鲁棒性;这些机制对 EEG 动态连接图的适用性尚未验证。

来源:OpenReview · State space models · openreview.net