面向域泛化的基于知识蒸馏的域不变表征学习
Knowledge Distillation-Based Domain-Invariant Representation Learning for Domain Generalization
该研究针对多源域训练后向未见目标域泛化的问题,提出 Knowledge Distillation based Domain-invariant Representation Learning(KDDRL),通过两阶段知识蒸馏学习域不变表征,同时保留域特异特征。基于摘要分析,未取得论文全文。 方法包含多个辅助学生模型和一个学生领导模型。第一阶段,每个域特异辅助学生以其他辅助学生的集成预测为蒸馏目标,旨在挖掘域不变表征;错误移除模块将预测与真实标签比较,剔除错误预测,以减少错误信息传递。第二阶段,保留域特异特征的学生领导模型结合辅助学生群体学到的域不变表征,完成最终预测。其核心思路并非单纯强化跨域对齐,而是协调可共享表征与域特异信息。 作者报告,KDDRL 在常用域泛化基准上优于当时的先进方法,但摘要未给出数据集名称、具体指标、数值、域划分或对照配置,无法据此判断提升幅度与适用边界。损失形式、集成方式、错误过滤粒度、训练与推理成本,以及实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设将被试或会话作为源域,这种多学生蒸馏机制可能用于探索 EEG 跨被试或跨会话泛化。原方法依赖多源域结构和训练标签;可复用的是跨源域集成蒸馏及错误过滤思路,需改造 EEG 特征编码器并明确各学生的数据访问范围。低信噪比、小样本和跨被试标签相关特征差异可能使多个学生产生一致错误,通道不一致也会妨碍表征共享。一个可检验的小实验是在同一 EEG 数据集上采用留一被试测试、仅以源被试标签训练,对比普通多源训练、完整 KDDRL 与移除错误过滤模块的版本,保持编码器及调参规则一致,检验收益是否稳定。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性的证据。
值得关注其通过两阶段知识蒸馏兼顾域不变表征与域特异特征的机制,以及利用真实标签过滤错误蒸馏信息的设计;其对 EEG 跨被试域泛化的价值尚未验证。
来源:OpenReview · Representation learning · openreview.net