通过核表示适配实现域适应迁移学习
Domain Adaptation Transfer Learning by Kernel Representation Adaptation
基于摘要分析。本文研究目标域没有标注数据时的域适应,提出基于 SVM 和 Kernel Principal Component Analysis(KPCA)的两种核表示适配方法,通过在再生核希尔伯特空间(RKHS)中对齐源域与目标域分布,支持源域分类器向目标域迁移。其关键假设是两域的标签条件概率相似;分布对齐本身并不保证分类关系可迁移。 第一种方法为 SVM 增加类似 Maximum Mean Discrepancy(MMD)的约束,将两域数据投影到共同的 RKHS 子空间,使分布趋于相似。作者指出,该约束保留了优化问题的二次性质,因此可以使用常见二次优化工具;摘要未提供具体目标函数与约束形式。 第二种方法基于 KPCA,同样使用 MMD 衡量相似性,并进一步施加线性变换以改善对齐。作者称该方法还能对齐 RKHS 中的其他高阶矩,并获得更好表现。作者报告在合成与真实数据集上,将两种方法与既有迁移学习方法进行了比较,但摘要未给出数据集名称、划分协议、基线名称、指标及数值;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其机制可能对应 EEG 跨被试或跨会话中的特征分布偏移,可复用核映射、MMD 对齐与分类框架,但需适配 EEG 特征、通道对应关系和核参数。该路径需要有标签源域数据与无标签目标域数据;低信噪比、通道差异、小样本及标签条件关系变化均可能使对齐无效甚至造成负迁移。一个可检验的小实验是在固定特征与数据划分下,以有标签源被试和无标签目标被试进行适配,隔离目标测试标签,对比无适配 SVM 与两种适配方法,并同时检查分布差异和目标分类表现。相关 EEG 工作尚未检索确认,不能将原领域结果视为 BCI 有效性的证据。
值得关注其在保留二次优化结构的同时引入核空间分布对齐约束的做法,但迁移收益依赖源域与目标域标签条件概率相似的假设,具体实验效果尚需全文核验。
来源:OpenReview · Representation learning · openreview.net