通过互信息最大化聚合子图学习图表示
Learning graph representation by aggregating subgraphs via mutual information maximization
基于摘要分析。本文研究通用图表示学习,针对图级与节点级表示互信息最大化可能未充分保留图结构信息的问题,提出以子图表示替代节点表示,并结合多角度信息聚合、可学习的子图生成与负采样机制。其主要研究对象并非 EEG 或 BCI。 作者认为,将多种信息混合在单一节点表示中会造成结构信息不足,使模型与理论最优情况之间存在信息差距;以子图为表示单元旨在缩小这一差距。方法设计了 attribute-conv、layer-conv 和 subgraph-conv 三类信息聚合器,从不同方面汇集原图信息,并提出自回归生成子图的通用框架,以可学习方式刻画图结构。Head–Tail 负采样用于提供更多负样本,服务于对比学习。作者称这些组件可插入现有 Graph Neural Networks,但具体接入方式、损失形式及适用边界尚未验证。 作者报告,在若干基准的无监督设置下取得新的最优结果,并在半监督任务上与已有半监督方法比较。摘要未给出基准名称、数据划分、指标、具体数值或计算成本,因而无法判断提升幅度及不同组件的独立作用;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 已被构造成具有节点属性和明确边关系的图,子图聚合可能用于保留局部通道关系,而非仅依赖单节点表示。可复用部分包括子图聚合与对比学习框架;需改造 EEG 图构建、子图生成约束及负样本定义。该假设依赖图结构具有生理或任务意义,低信噪比、通道配置变化、跨被试差异和小样本均可能使子图生成学习到不稳定关系。可在固定 EEG 图构建、编码器和跨被试划分下,对比节点级与子图级互信息学习,并分别核对子图生成和 Head–Tail 负采样的增益及计算开销。已有 EEG 相关工作尚未检索确认。
值得核对以子图替代节点进行互信息最大化的机制,以及三类信息聚合器、自回归子图生成与 Head–Tail 负采样各自的贡献;其对 EEG 图表示的价值尚未验证。
来源:OpenReview · Representation learning · openreview.net