DyGMamba:利用状态空间模型高效建模连续时间动态图中的长期时间依赖
DyGMamba: Efficiently Modeling Long-Term Temporal Dependency on Continuous-Time Dynamic Graphs with State Space Models
基于摘要分析。该研究面向连续时间动态图(CTDG)的表示学习,解决长节点交互历史带来的计算开销,以及长上下文中关键时间信息的识别问题。作者提出基于 Mamba 状态空间模型(SSM)的 DyGMamba,将历史交互编码与时间模式驱动的信息选择结合起来。 核心机制包括两个层面的 SSM:节点级 SSM 编码节点历史交互序列;时间级 SSM 提取历史图中的时间模式,并利用其输出动态选择交互历史中的关键信息。其方法重点不只是延长历史窗口,还在于使时间模式参与历史信息筛选。摘要未给出具体选择算子、训练损失、时间编码方式或计算复杂度表达式,这些细节尚未验证。 作者在动态链接预测任务上验证模型,报告其在多数评估情形下达到最先进水平,并保持较高的计算资源效率,从而能够在有限计算预算下捕获长期时间依赖。摘要未提供数据集、划分协议、对照方法、评价指标或资源测量数值,不能据此量化性能与效率收益;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 数据能够被合理构造成带时间戳的节点交互图,该机制可能对应长时程连接变化建模与关键历史筛选的瓶颈。可考虑复用节点历史编码和时间模式选择模块,但需改造 EEG 通道或脑区的节点定义、交互事件构造及任务输出;原论文的动态图链接预测结果不等于 BCI 解码有效。低信噪比、连接估计误差、跨被试通道差异和小数据可能使选择机制追踪伪相关。一个可证伪的小实验是在固定 EEG 图构造、数据划分与训练预算下,对比完整机制和移除时间级选择的版本,检查延长历史是否稳定改善下游解码。已有 EEG 相关工作尚未检索确认。
值得阅读的是节点级与时间级 SSM 分工编码交互历史并动态选择关键信息的机制,但其效率优势、动态链接预测表现及向 EEG 图建模的适用性仍需进一步核对。
来源:OpenReview · State space models · openreview.net