跳到正文
arXiv · 架构与算子· Sai Karthik Navuluru; Siddhartha Shankar Das; Franck Dernoncourt; S M Ferdous; Ryan A. Rossi; Nesreen K. Ahmed; Baris Coskunuzer; Alex Pothen; Lakshman Tamil; Mahantesh M Halappanavar·· 3 天前精选AI 评分81

EDiS:面向图神经网络的边不相交子图稀疏化框架

EDiS: Edge Disjoint Subgraph Sparsification Framework for Graph Neural Networks

AI 导读

基于摘要分析。EDiS 针对稀疏 GNN 训练中固定拓扑限制训练变化、逐轮重新采样或计算结构又可能增加成本的问题,将一次性结构提取与每个训练轮次的图组合分离,以缓存子图支持不同轮次和边保留比例下的训练图构造。 核心机制是将原图一次性分解为边不相交、可缓存的子图,再按边预算约束组合训练图,无须重新提取结构。默认构造采用基于特征的评分和 successive maximum score covering forests;图组合机制也支持其他边选择规则。摘要未给出评分函数、分解实现及采样分布的具体形式。 理论方面,作者对从缓存分解中抽取训练图的逐轮采样器进行组合分析。作者报告,默认 covering-forest 选择器下,存储的分解可确定性保留高评分割边,并给出不依赖具体选择器的、组合训练图中高评分割边存活的条件界。存储分解的保留性质与单轮训练图的存活保证并非同一结论,具体条件及界的强弱尚未验证。 实验方面,作者报告,在涵盖同配、异配及大规模图的 19 个节点分类基准上,与 17 个基线按相同边预算比较,EDiS 获得最高平均基准得分(accuracy/ROC-AUC),并在参与排名的方法中取得最低平均排名及最低 gap-to-best。上述结果是跨基准汇总,不能理解为每个数据集均最优,也不能将 accuracy 与 ROC-AUC 直接互换。作者报告消融中结构分解与逐轮变化的收益在严格边预算下最明显;数据集名称、划分、运行成本、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务采用通道或脑区作为节点、连接关系作为边的 GNN,缓存分解可能用于降低重复稀疏化成本,但依赖图结构足够稳定及边评分具有任务意义。可复用的是分解与预算约束组合模块,需改造的是 EEG 边评分及动态图更新方式;低信噪比、跨被试连接差异和通道变化可能削弱割边评分与缓存结构的可靠性。一个可检验的小实验是在固定 Cross-subject 划分、相同 GNN 和边预算下,对比固定稀疏图、逐轮采样与 EDiS,同时记录分类指标及包含预处理的总耗时。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其缓存式边不相交分解能否兼顾逐轮拓扑变化与稀疏训练成本,以及割边保留保证在不同边预算下的适用条件;摘要中的排名优势尚需结合完整实验协议验证。

来源:arXiv · 架构与算子 · arxiv.org