面向深度多实例学习的数据驱动知识融合
Data-Driven Knowledge Fusion for Deep Multi-Instance Learning
基于摘要分析。本文研究多实例学习(MIL)中已有算法知识难以被后续深度模型复用的问题,提出数据驱动知识融合算法 DKMIL,通过分析数据集中关键样本的决策信息辅助模型学习;另设计 two-level attention(TLA)模块,以适配知识增强后的特征并进行分类。 核心机制是数据驱动知识融合(DDKF)模块:作者将其定位为数据与模型之间的新接口,从关键样本中提取有用信息,并允许已有算法的先验知识参与深度模型学习。TLA 则逐步学习样本的浅层和深层特征。摘要未明确关键样本的选择准则、决策信息的来源与表示、知识融合算子、注意力计算方式及训练目标,这些机制仍需正文核对。 作者在摘要中提出将通过五类共 62 个数据集的实验验证知识融合模块的可扩展性及整体架构的有效性,但未给出数据集名称、任务构成、划分协议、对照方法或量化结果,不能据此判断性能优势。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务可表示为由多个片段组成的包,并仅提供包级标签,DKMIL 的知识接口可能用于复用传统方法对片段的判别信息。可复用的候选是 MIL 聚合及知识融合思路;片段编码、关键样本定义和知识来源需针对 EEG 改造。低信噪比、伪迹及跨被试差异可能使关键样本选择不稳定,小数据也可能放大先验偏差。可检验的小实验是在固定被试级划分和相同编码器下,比较基础 MIL、加入 DDKF、再加入 TLA 的包级分类表现,检验增益是否来自知识融合。该迁移假设不构成已验证的 EEG/BCI 效果,已有 EEG 相关工作尚未检索确认。
值得核对其如何将已有算法对关键样本的决策信息转化为深度 MIL 可用的知识,以及 DDKF 与 TLA 各自的增益,但摘要尚未提供量化结果。
来源:OpenReview · Representation learning · openreview.net