面向分布外泛化的因果马尔可夫毯表征学习
Causal Markov Blanket Representation Learning for Out-of-distribution Generalization
基于摘要分析。该研究面向机器学习与计算机视觉中的分布外泛化问题,提出学习 Causal Markov Blanket(CMB)表征,以改善分布偏移下的预测表现;核心贡献是通过带潜在表征的结构因果模型(SCM),约束模型学习与目标变量相关的因果表征。 机制上,作者将 CMB 表征描述为目标变量的直接原因与直接结果,并先构建刻画数据生成机制的 SCM,再提出符合该 SCM 的表征学习框架。作者报告,理论分析表明此类表征能够包含关于目标变量的最大信息,从而达到最小 Bayes error;这一结论的具体假设、适用分布及证明边界尚未验证,不宜将其直接解释为任意分布偏移下的最优预测保证。 作者报告,相较于现有先进域泛化方法,该方法在分布偏移下具有鲁棒性与适应性。但摘要未提供数据集、划分、对照方法名称或量化指标,实验协议、消融及统计信息尚未验证;损失形式、因果结构如何获得、训练所需监督及是否依赖多域数据也需查阅全文。 平台推测(待验证):若 CMB 约束能够分离任务相关机制与域相关干扰,可能为 EEG 跨被试或跨会话泛化提供方法参考,但原文研究对象并非 EEG。可复用候选是潜在 SCM 与表征约束,需改造的是 EEG 时序编码及被试、会话和通道差异的建模。低信噪比、小样本及未观测混杂可能使因果结构难以识别。一个可检验的小实验是在固定 EEG 编码器与跨被试留出协议下,对比加入与不加入该约束的模型,并在训练集内选择超参数,检验其对留出被试及通道扰动的影响。此建议仅为迁移假设,已有 EEG 相关工作尚未检索确认。
值得核对其如何将目标变量的因果结构转化为表征约束,以及最小 Bayes error 的理论条件能否支持分布偏移下的泛化;摘要尚不足以验证其对 EEG 的适用性。
来源:OpenReview · Representation learning · openreview.net