跳到正文
OpenReview · Representation learning· Rajeev Ranjan Dwivedi; Ankur Kumar; Vinod K. Kurmi·· 2025-12-31精选AI 评分75

通过表征学习缓解多属性偏差

Multi-Attribute Bias Mitigation via Representation Learning

AI 导读

基于摘要分析。本文研究视觉识别中纹理、水印、性别化妆容及场景—物体配对等多种捷径共存的问题,提出 Generalized Multi-Bias Mitigation(GMBM),试图避免缓解一种偏差时保留或加剧其他偏差。该框架仅在训练阶段需要群组标签,推理时保留单个网络。 机制分为两阶段:首先,Adaptive Bias-Integrated Learning(ABIL)为各属性训练编码器,并将其与主干网络整合,使分类器显式识别已知捷径的影响;随后,Gradient-Suppression Fine-Tuning 从主干梯度中抑制这些偏差方向。摘要未提供偏差方向的估计方式、梯度操作公式、训练目标及两阶段训练细节,尚不能判断任务信息与偏差信息重叠时如何取舍。 作者还提出 Scaled Bias Amplification(SBA),用于在子群不均衡和训练—测试分布偏移下,区分模型引入的偏差放大与分布差异。作者报告,在 FB-CMNIST、CelebA 和 COCO 的评估中,GMBM 提升了最差群组准确率,将多属性偏差放大程度减半,并取得更低的 SBA。摘要未给出这些结果对应的具体划分、对照基线及数值表,实验协议、消融及统计信息尚未验证;“减半”不能视为所有数据集或所有偏差指标上的统一效果。 平台推测(待验证):若 EEG 训练数据具有明确的被试、会话或设备属性标签,且这些属性形成与目标标签偶然相关的捷径,可检验该机制是否有助于跨被试或跨会话稳健性。可复用的是属性编码与梯度抑制思路,需改造信号编码器及属性定义;低信噪比、小样本、通道差异,以及属性与真实任务信息耦合,都可能使抑制操作损伤有效信号。一个小规模可证伪实验是在固定跨会话划分下,对比同一 EEG 主干的常规训练与两阶段训练,同时检查整体及最差群组 Accuracy;若群组差距缩小仅来自整体性能下降,则不支持迁移收益。已有相关 EEG 工作尚未检索确认。

阅读价值

值得核对其“先显式学习多属性捷径、再抑制相关梯度”的两阶段机制,以及 SBA 能否在子群不均衡和分布偏移下区分模型偏差放大与数据分布差异;其 EEG 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net