知识图谱增强的 DNA 表征学习
Knowledge Graph-Augmented DNA Representation Learning
基于摘要分析。研究针对 DNA 预训练模型主要依赖核苷酸序列自监督学习、难以利用专家整理的结构化知识这一问题,提出 Knowledge Graph-Augmented DNABERT(KGA-DNABERT),在 DNABERT-2 的掩码语言建模(MLM)目标之外引入知识图谱(KG)建模。其贡献包括探索序列表征与知识图谱嵌入的结合,并报告这一尝试在所测试知识图谱上的收益有限。 方法上,作者从人类基因组数据库 GenomicKB 提取事实三元组以构建 KG,并纳入六种常用 KG embedding 方法,尝试补充序列层面之外的知识。摘要未列出这些方法的名称,也未说明三元组与序列的对齐方式、目标组合形式及训练流程,因此尚不能判断知识通过何种具体路径影响 DNA 表征。 结果方面,作者报告,在本文测试的 KG 条件下,加入知识图谱未带来实质性收益;摘要没有提供任务、指标、划分协议或数值。作者将这一结果归因于所构建 KG 仅覆盖 GenomicKB 的一部分、知识覆盖不足,但这一解释是否得到覆盖率分析或受控实验支持尚未验证。该结论不宜扩大为知识图谱增强 DNA 表征普遍无效。实验协议、消融及统计信息尚未验证,代码与复现条件也尚未验证。 平台推测(待验证):其可迁移假设是,结构化领域知识可能补充 EEG 自监督序列表征,但需先建立可与 EEG 样本对齐的实体、关系及知识监督;DNA 中的实体关系不能直接复用。可借鉴的是辅助 KG 建模思路,需改造的是知识构建与信号对齐模块。低信噪比、跨被试差异、通道配置变化和小数据可能使知识对齐不稳,或让辅助目标引入偏差。一个可检验的小实验是在固定 EEG 数据划分与编码器条件下,对照仅掩码建模、加入真实 KG 和加入关系打乱的 KG,并控制知识覆盖率,检验收益是否确由结构知识带来。已有 EEG 相关工作尚未检索确认。
来源:OpenReview · Representation learning · openreview.net