利用渐进式交叉 Transformer 学习公平人脸表示
Learning Fair Face Representation With Progressive Cross Transformer
基于摘要分析。本文研究人脸识别中的种族群体偏差:种族相关属性既可能诱发识别偏差,也可能携带有用的身份线索。作者提出 progressive cross transformer(PCT),将身份表示学习视为信号去噪问题,尝试在削弱种族相关干扰的同时保留身份识别能力。 机制上,作者从信号分解理论出发,将人脸表示分为身份相关成分与种族诱导的身份无关成分,并把信号子空间分解扩展为用于交叉预测身份和种族信息的广义函数表达模型。方法以双交叉 Transformer 提取身份相关成分、抑制种族相关噪声,再通过渐进式解耦学习身份与种族特定的变换。摘要未提供具体注意力结构、损失形式、监督要求或渐进训练流程,这些实现条件尚未验证。 作者报告,在公开公平人脸识别基准 BFW、RFW 上,PCT 能减轻识别偏差,同时取得作者所称的当时最先进的人脸识别性能;作者还报告注意力可视化能够显示种族相关或带有偏差的面部区域。摘要未给出具体分数、公平性指标、数据划分及对照基线,因此无法量化群体差距改善幅度,也不能仅凭注意力图认定模型已消除偏差。实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,将交叉预测与渐进式解耦用于分离 EEG 中的任务相关成分和被试或会话相关成分,以缓解跨被试或跨会话差异。可借鉴表示分解思路,但输入编码、交叉预测目标与训练监督均需适配;所需样本规模及属性标签要求也须先核对全文。低信噪比、通道差异和小数据可能使解耦不稳定,而被试差异可能包含有效任务信息,强行抑制反而损害解码。一个可证伪的小实验是在固定跨被试划分下,对照相同骨干加入解耦机制前后的任务表现与被试信息可预测性,检验是否同时保留任务信息并削弱被试线索。已有 EEG 相关工作尚未检索确认。
值得关注的是将种族相关偏差与身份识别线索的纠缠建模为渐进式表示分解,并通过交叉预测实现解耦;其公平性收益与识别性能的权衡仍需结合全文评估协议核对,不能直接视为 EEG 去混杂的有效证据。
来源:OpenReview · Representation learning · openreview.net