跳到正文
OpenReview · Representation learning· Cheng Zheng; Bo Zong; Wei Cheng; Dongjin Song; Jingchao Ni; Wenchao Yu; Haifeng Chen; Wei Wang·· 2020-01-01精选AI 评分75

通过神经稀疏化实现鲁棒图表示学习

Robust Graph Representation Learning via Neural Sparsification

AI 导读

基于摘要分析。该研究针对通用图表示学习中邻域聚合混入任务无关信息、影响泛化的问题,提出监督式图稀疏化方法 NeuralSparse,通过学习删除潜在的任务无关边,改善下游图神经网络的预测表现;原研究对象并非 EEG 或 BCI。 机制上,NeuralSparse 同时利用图结构与非结构信息,以深度神经网络参数化稀疏化过程,并通过下游任务的反馈优化参数。其可与现有图神经网络衔接,核心思路是学习哪些连接值得保留,而非直接聚合全部邻域信息。具体边选择机制、损失函数及训练与推理流程尚未验证。 作者报告,在基准及私有数据集的节点分类任务中,NeuralSparse 与现有图神经网络结合时,测试 Accuracy 最高改善 7.2%;摘要未明确该数值是相对提升还是百分点增益,也未提供对应数据集、划分和基线,不能据此作跨协议比较。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 已被表示为以通道为节点、连接关系为边的图,任务监督的边筛选可能用于抑制与解码目标无关的连接。该假设依赖图构建质量、节点特征及足够的监督数据;可复用的是任务反馈驱动的稀疏化思路,需要改造的是 EEG 图构建及边选择约束。低信噪比、跨被试连接差异、通道配置变化和小样本可能使筛边过程过拟合,或删除有用的弱连接。一个可检验的小实验是在固定 EEG 图构建、骨干模型和跨被试划分下,对比不稀疏化、等边数随机稀疏化与学习式稀疏化,并检查多次运行的表现及边选择稳定性。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是利用下游任务监督学习图边稀疏化、以减少无关邻域信息的机制;其对 EEG 图建模的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net