跳到正文
OpenReview · State space models· Zifeng Ding; Yifeng Li; Yuan He; Antonio Norelli; Jingcheng Wu; Volker Tresp; Yunpu Ma; Michael M. Bronstein·· 2024-09-26精选AI 评分73

DyGMamba:利用状态空间模型高效建模连续时间动态图的长期时间依赖

DyGMamba: Efficiently Modeling Long-Term Temporal Dependency on Continuous-Time Dynamic Graphs with State Space Models

AI 导读

DyGMamba 面向连续时间动态图(CTDG)的表示学习,尝试同时解决长节点交互历史的计算开销与关键时间信息筛选问题,核心贡献是将 Mamba 状态空间模型(SSM)用于节点历史编码和时间模式驱动的信息选择。以下基于摘要分析,未取得论文全文。 机制上,节点级 SSM 首先编码历史节点交互序列;时间级 SSM 随后提取历史图中的时间模式,其输出用于动态选择交互历史中的关键信息。摘要描述的设计重点不只是扩大历史窗口,而是让时间模式参与信息筛选。具体输入表示、两个 SSM 的连接方式、选择操作、损失函数及训练流程尚未验证。 作者在动态链接预测任务上进行评估,并报告 DyGMamba 在多数情形下达到当时最优表现,同时保持较高的计算资源效率,使有限计算预算下的长时间依赖建模成为可能。摘要未提供数据集、划分协议、基线、指标数值或资源测量口径,因此不能量化其性能与效率优势;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将 EEG 通道或脑区表示为节点、将带时间戳的连接变化表示为交互,该机制可能用于筛选长时程连接历史中的任务相关信息。此迁移假设依赖于 EEG 能否形成有意义的交互事件,而不是直接将原始波形视为动态图。可复用部分是历史序列编码和时间模式驱动的选择模块;需改造的是节点定义、连接估计、事件构造与任务输出。低信噪比可能产生伪交互,跨被试及通道差异可能破坏事件语义,小数据也可能使选择机制过拟合。一个可证伪的小实验是在固定 EEG 数据与跨被试划分下,以相同连接构造和历史窗口比较完整机制与不使用时间级选择的对照,同时记录任务指标及资源开销。上述仅为迁移假设,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其利用节点级与时间级 SSM 编码长交互历史并动态选择关键信息的机制,但动态图预测收益及其向 EEG 时变连接建模迁移的有效性仍需核对实验与验证。

来源:OpenReview · State space models · openreview.net