通过掩码离散扩散进行超关系知识图谱的生成式表示学习
Generative Representation Learning on Hyper-relational Knowledge Graphs via Masked Discrete Diffusion
基于摘要分析。本文研究超关系知识图谱(HKGs)中多个乃至全部事实组成部分缺失时的补全与生成问题,提出 fact generation 任务及生成式表示学习方法 KREPE,将传统单空位链接预测与任意掩码查询下的事实生成纳入统一训练框架。 原问题的关键在于:常见链接预测设置假定一个事实中几乎所有实体与关系均已知,仅需填补一个空位;fact generation 则允许补全部分可见的事实,或从头生成事实。KREPE 通过掩码离散扩散,学习在局部事实组成部分与 HKG 全局结构条件下,缺失组成部分的概率分布。其中,contextual message passing 用于建模事实内部依赖,对随机采样上下文的聚合用于捕捉事实之间的关联。具体扩散过程、掩码策略、损失函数及上下文采样设置尚未验证。 作者报告,KREPE 在标准 HKG 链接预测基准上达到当时最优表现,并在生成新颖且正确的事实方面优于基于 LLM 的基线。摘要未提供数据集名称、划分方式、指标数值及基线配置,因此暂不能量化优势,也无法确认生成事实的正确性、新颖性如何判定。实验协议、消融及统计信息尚未验证,代码与复现条件亦尚未确认。 该方法的主要研究对象是结构化知识图谱中的离散实体、关系及事实生成,并非 EEG 等连续神经信号建模。材料未提供与 EEG/BCI 的具体机制对应或验证结果,因此不据此推导 BCI 性能收益;相关 EEG 工作尚未检索确认。
值得关注其将单空位链接预测扩展为任意掩码下事实生成的任务设计,以及结合事实内依赖与事实间上下文的离散扩散机制;性能优势仍需结合全文评估协议核对。
来源:OpenReview · Representation learning · openreview.net