跳到正文
OpenReview · Representation learning· Qiao Qiao; Yuepei Li; Qing Wang; Kang Zhou; Qi Li·· 2024-01-01精选AI 评分70

Bridge:通过语言模型与知识表示进行知识图谱补全的统一框架

Bridge: A Unified Framework to Knowledge Graph Completion via Language Models and Knowledge Representation

AI 导读

基于摘要分析。本文研究知识图谱补全(KGC),即依据已有知识图谱推断缺失三元组,提出 Bridge 框架以联合利用图谱结构信息与预训练语言模型(PLMs)的语义信息。核心贡献是结合实体与关系的分别编码、结构表示学习,以及基于三元组双视图的 BYOL 自监督微调。 机制上,作者将实体和关系分别交由 PLMs 编码,并通过摘要所称的“结构学习原则”学习结构表示;具体约束与损失形式尚未验证。为缩小 PLMs 与知识图谱之间的差异,Bridge 将三元组拆成两部分构造不同视图,用 BYOL 微调 PLMs。作者认为,相较于可能改变语义的增强方式,这种拆分能够避免语义改变;视图的具体组成、训练目标与推理评分方式需查阅全文确认。 作者报告,Bridge 在三个基准数据集上优于其比较的 SOTA 模型。摘要未给出数据集名称、划分、指标、数值或基线配置,因此目前不能判断优势幅度及适用范围;实验协议、消融及统计信息尚未验证。复现需进一步核对 PLM 配置、三元组视图构造、结构学习约束与评估流程。 平台推测(待验证):该机制依赖实体—关系—实体结构及可供语言模型编码的语义内容,并非直接面向 EEG 时序。若 BCI 研究任务本身包含有文本描述的实体与关系,可假设借鉴其结构—语义联合表示,但需另行设计神经信号编码和图谱对齐模块;低信噪比、跨被试差异与小数据可能使图谱语义收益无法转化为解码收益。现有材料不足以支持直接的 EEG 复现实验方案,相关 EEG 工作尚未检索确认。

阅读价值

值得核对 Bridge 如何通过实体与关系的分别编码及三元组双视图 BYOL 微调融合结构与语义信息,但摘要中的性能优势及其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net