跳到正文
OpenReview · Representation learning· Tiehua Zhang; Yuze Liu; Xin Chen; Xiaowei Huang; Feng Zhu; Xi Zheng·· 2021-01-01精选AI 评分71

GPS:面向图表示学习的策略驱动采样方法

GPS: A Policy-driven Sampling Approach for Graph Representation Learning

AI 导读

基于摘要分析。本文研究大规模图表示学习中的邻域采样问题,提出自适应 Graph Policy-driven Sampling(GPS),通过自适应相关性计算刻画局部邻域中各节点的影响,并以策略算法指导邻居选择,服务于图表示的学习。 机制上,摘要将采样决策与消息聚合、节点嵌入更新及图级读出联系起来,关注的不只是减少参与训练的邻居数量,还包括如何自适应选择参与表示计算的邻居。策略的具体形式、相关性计算方式、监督信号、优化目标,以及采样与表示学习如何联合训练,尚未验证。 作者报告,在若干图分类基准上,相对既有方法取得“3%–8%”的提升,并声称达到当时的最先进水平。但摘要未说明该提升对应的指标、百分比或百分点口径,也未列明数据集、划分方式、对照方法及重复实验设置,因此不能据此进行精确横向比较。实验协议、消融及统计信息尚未验证,面向大规模图的时间与内存收益也需查阅全文核对。 平台推测(待验证):若将 EEG 通道或脑区作为节点、将通道间关系构成边,GPS 的自适应邻域选择可能用于检验任务相关邻居筛选是否有助于抑制无关连接。可考虑复用邻居选择与聚合机制,但需改造适配 EEG 的边构建、时变关系及图级任务监督。低信噪比可能使相关性估计不稳定,跨被试连接差异、通道缺失与小数据也可能导致策略过拟合。一个可检验的小实验是在固定 EEG 构图、编码器及训练预算下,对比 GPS 采样、随机采样与固定邻域,采用被试互斥划分并报告分类指标及计算开销;这属于迁移假设,并非本文已验证结果,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是将自适应邻居选择与消息聚合、节点嵌入更新及图级读出相联系的采样机制,但其相对基线的收益、计算代价及 EEG 图建模适用性尚待核验。

来源:OpenReview · Representation learning · openreview.net