跳到正文
OpenReview · Representation learning· Junhan Yang; Zheng Liu; Shitao Xiao; Chaozhuo Li; Defu Lian; Sanjay Agrawal; Amit Singh; Guangzhong Sun; Xing Xie·· 2021-01-01精选AI 评分77

GraphFormers:面向文本图表征学习的 GNN 嵌套式 Transformers

GraphFormers: GNN-nested Transformers for Representation Learning on Textual Graph

AI 导读

基于摘要分析。本文研究文本图中的节点表征学习:结合节点自身文本与邻域信息,生成低维嵌入。作者提出 GraphFormers,将逐层 GNN 组件嵌入语言模型的 Transformer 模块之间,使文本编码与图聚合交替进行,而非先独立编码各节点文本、再统一聚合。 核心机制是让邻域信息参与文本表征的逐层更新,区别于语言模型与 GNN 的串联架构。作者另引入渐进式学习策略,先在经过处理的数据上训练,再在原始数据上训练,以增强图信息整合能力;数据处理方式、训练目标和具体调度尚未验证。 作者报告,在三个大规模基准数据集上,GraphFormers 优于其比较的 SOTA 基线,且运行效率相当。摘要未提供数据集名称、任务与划分、具体指标、分数或效率测量条件,因而不能据此量化收益或判断不同设置下的稳健性。摘要提供了源码地址,但实现与复现条件尚未核验;实验协议、消融及统计信息尚未验证。 平台推测(待验证):该方法依赖节点文本及邻接关系,不能直接视为 EEG 或 BCI 算法。若将通道或脑区作为节点,可假设“局部编码与图聚合交替更新”有助于联合建模局部信号和空间关联,但需将文本编码器改为 EEG 时序编码器,并重新定义图连接与训练目标。低信噪比、跨被试连接差异、通道变化及小数据均可能使邻域传播放大噪声或导致过拟合。一个可检验的小实验是在固定 EEG 数据划分、图结构及近似参数预算下,对比“时序编码后接 GNN”与逐层交替融合,分别核对被试内和跨被试表现。此迁移假设不属于原文已验证结果,相关 EEG 工作尚未检索确认。

阅读价值

值得核对其逐层融合文本编码与图聚合的实现及对照实验,以判断收益是否来自邻域信息对编码过程的持续参与;摘要尚不足以确认其对 EEG 表征的适用性。

来源:OpenReview · Representation learning · openreview.net