DAG-MAMBA:面向有向无环图状态空间模型的结构感知选择性
DAG-MAMBA: Structure-aware selectivity for directed acyclic graphs State space model
基于摘要分析。该研究针对有向无环图(DAG)仅定义偏序、而顺序敏感的状态空间模型(SSM)需要节点序列这一结构失配,提出 DAG-MAMBA:将节点依赖关系与按深度组织的粗粒度序列分离,避免学习结果过度依赖任意拓扑序。 机制上,局部关系与有界可达性分支分别保留直接连接及前驱—后继关系;具有相同最长路径深度的节点被池化为前沿 token,再由 Mamba 学习跨前沿混合。该前沿表示被刻意设计为非单射,因此不同图结构可能映射到相同的粗粒度表示,必须与图结构分支互补,而不能替代它们。 作者报告,在代码、引用关系与神经架构 DAG 的若干任务上,完整实例化显著优于朴素序列化 Mamba,并与较强的图/DAG 基线保持竞争力。作者还报告,在三个消融任务中,以摘要所称的 identical leading-edge mixer 替换学习式 Mamba 传递,可达到或超过完整模型;该替换模块的精确定义尚待正文核对。这支持作者的限定性结论:序列鲁棒性主要由 DAG 接口提供,学习式跨前沿混合的增益依赖任务,不能据此认定选择性扫描对 DAG 学习普遍必要。具体数据集、划分、指标、效应量、实验协议、消融细节及统计信息尚未验证。摘要提供了实现仓库地址,但代码可运行性与复现条件尚未核验。 平台推测(待验证):若 EEG 任务已有明确的有向无环事件或处理依赖图,该接口可能用于减少任意节点序列带来的表示波动;这不是已证实的 BCI 效果,也不直接适用于普通通道连接图。可复用的是结构分支与深度前沿组织方式,需改造节点特征编码及图构建。低信噪比、跨被试结构变化、通道缺失和小数据可能使依赖图不稳定,前沿池化也可能丢失判别信息。小规模检验可固定同一 EEG 图及数据划分,仅改变合法拓扑序,对比朴素序列化 Mamba 与该结构接口的预测一致性及任务指标,并单独替换跨前沿混合模块。已有 EEG 相关工作尚未检索确认。
值得阅读其将 DAG 结构接口的序列鲁棒性与 Mamba 跨前沿混合的边际贡献分开检验的思路;作者报告的替换消融也提示,不能将整体收益直接归因于选择性扫描。
来源:OpenReview · State space models · openreview.net