面向开放集域适应的 Mixture-of-Experts:双空间检测方法
Mixture-of-Experts for Open Set Domain Adaptation: A Dual-Space Detection Approach
基于摘要分析。研究针对图像开放集域适应(Open Set Domain Adaptation,OSDA):在源域与目标域同时存在分布偏移和标签空间差异时,既分类目标域中的已知类别,也识别未知类别。作者提出 Dual-Space Detection,利用图像特征空间与 Mixture-of-Experts(MoE)路由特征空间之间的不一致性检测未知类别,并引入 Graph Router 利用图像 patch 之间的空间信息。 核心机制是:MoE 中不同专家处理不同输入特征,各类别可能形成不同的专家路由模式;未知类别样本的路由模式可能因此区别于已知类别。该方法不只依赖深度模型的最终图像特征,而是联合两个空间的信息进行检测。作者称其检测无需阈值,但摘要未说明不一致性的计算方式、检测决策规则、训练目标及专家配置,相关实现细节尚未验证。 作者报告,在三个不同数据集上的实验验证了方法的有效性与优越性。摘要未给出数据集名称、已知与未知类别划分、对照方法、评价指标或具体数值,因而目前无法判断收益大小及适用边界;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 目标域包含训练时未见的任务类别,双空间检测可作为开放集域适应的候选机制,但原文研究对象是图像,不能据此认定其能识别 EEG 中的未知类别。可尝试复用 MoE 路由表征与双空间检测思路,图像 patch 的构造及 Graph Router 的空间关系则需针对 EEG 时间片段、通道布局重新设计。其前提是路由模式能反映类别差异,而非主要反映被试、噪声或设备差异;低信噪比、跨被试变异、通道不一致和小样本均可能使该前提失效。 一个可检验的假设是:在固定的 Cross-subject EEG 开放集划分下,源域仅包含已知任务类别,目标域同时包含已知与留出的未知类别,双空间检测是否比仅使用信号特征空间更有效。应在相同编码器和训练数据下分别评估已知类别分类与未知类别检测,并核对目标域标签使用和阈值选择规则。已有 EEG 相关工作尚未检索确认;复现仍需全文中的训练与推理规则。
值得核对的是利用图像特征与 MoE 路由特征的不一致性进行无阈值未知类别检测的机制;摘要报告了三套数据集上的有效性,但具体比较协议及其对 EEG 的适用性尚未验证。
来源:OpenReview · State space models · openreview.net