跳到正文
OpenReview · Representation learning· Weikuo Guo; Huaibo Huang; Xiangwei Kong; Ran He·· 2019-01-01精选AI 评分71

利用深度互信息估计学习用于跨模态检索的解耦表征

Learning Disentangled Representation for Cross-Modal Retrieval with Deep Mutual Information Estimation

AI 导读

基于摘要分析。该研究面向视觉—语义跨模态检索,提出两阶段表征学习方法:先利用深度互信息估计增强嵌入对输入信息的保留,再分离模态独有信息,以改善共享子空间表征及其可解释性。 机制上,第一阶段将深度互信息估计纳入优化目标,最大化输入数据与嵌入之间的互信息;第二阶段在网络中加入 expelling branch,将模态独有信息从已学习表征中解耦,以减轻其对共享子空间的影响。其可核对的技术思路是区分“保留输入信息”与“保留跨模态共享信息”,而非将两者视为同一目标。摘要未给出互信息估计器、具体损失形式、分支实现、跨模态配对与监督要求。 作者报告,在两个大规模基准数据集的跨模态检索实验中,该方法获得了更好的视觉—语义嵌入及当时最先进的检索结果;但摘要未列出数据集名称、划分、对照方法、检索指标及具体数值。实验协议、消融及统计信息尚未验证,可解释性的评价方式也需查阅全文。 平台推测(待验证):若 EEG 与另一模态具有可靠配对,且任务相关共享信息能与模态独有噪声区分,该机制可能用于探索跨模态 EEG 表征;这是假设,不是论文已验证的贡献。可复用的是互信息约束与信息解耦思路,需改造输入编码器及配对方式,并核对原方法依赖的监督与数据规模。低信噪比可能使互信息目标保留伪迹,跨被试和通道差异可能干扰共享信息分离,小数据则可能使互信息估计不稳定。一个小规模可证伪实验是在固定配对数据和跨被试划分下,比较基础嵌入、仅加入互信息目标及完整两阶段方法,检验解耦是否改善检索且不损失任务信息。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其“先保留输入信息、再剥离模态独有信息”的两阶段机制及对照实验,但摘要中的检索性能与可解释性结论尚不能作为 EEG/BCI 迁移有效性的证据。

来源:OpenReview · Representation learning · openreview.net