通过 Epistemic Graph 进行混合表征学习
Hybrid Representation Learning Via Epistemic Graph
基于摘要分析。研究针对视觉深度模型依赖大量训练样本、结构化知识与深度特征在维度及知识粒度上难以融合的问题,提出 Epistemic Graph Layer(EGLayer),以图结构对齐和信息聚合实现混合表征学习。 EGLayer 包含三个主要部分:局部图模块利用学习到的深度特征构建局部原型图,使特征与结构化知识图谱在相同粒度上对齐;查询聚合模块从局部图提取有用信息,再计算聚合表征与全局节点嵌入的相似度以完成预测;相关性对齐损失从余弦相似度和欧氏空间两个角度约束局部与全局邻接矩阵的线性一致性。摘要将其定位为可替代标准线性分类器的即插即用模块,但未提供损失公式、图谱构建流程及训练细节。 作者报告,EGLayer 在跨域识别和少样本学习实验中提升了表征学习表现,知识图谱可视化有助于模型解释。摘要未给出数据集、划分、对照基线或具体指标,因此无法判断提升幅度,也不能将跨域识别直接归为某一种域适应或域泛化协议。实验协议、消融及统计信息尚未验证;复现时需核对知识图谱来源、节点语义、局部原型构建方式及图谱信息的使用边界。 平台推测(待验证):迁移至 EEG 的假设是,若任务具有可靠的类别关系或生理先验,可将 EEG 编码器输出的原型与知识图谱对齐,以辅助小数据或跨被试识别。可复用的是图聚合与对齐思路,需改造的是 EEG 特征编码、原型定义及知识图谱;低信噪比、被试差异和通道配置变化可能导致原型不稳定或先验失配。一个可检验的小实验是在固定跨被试划分、编码器和训练预算下,对比线性分类器、EGLayer 与打乱图谱关系的 EGLayer,检验收益是否来自有效结构知识。相关 EEG 工作尚未检索确认。
来源:OpenReview · Representation learning · openreview.net