用于预测学业风险学生的潜在空间偏差缓解
Latent Space Bias Mitigation for Predicting At-Risk Students
基于摘要分析。本文研究在线课程中学业表现不佳学生的预测,关注利用人口统计信息提高预测能力时,如何同时控制涉及性别、年龄等受保护属性的偏差。作者提出基于潜在空间的偏差缓解方法,并使用去噪自编码器实现,重点考察模型仅知晓部分受保护属性的情境。 研究先分析预处理与训练过程中的偏差缓解方法。作者指出,现有评估未充分覆盖“部分知晓”情境,并报告:对抗去偏在缓解某些受保护属性上的偏差时,可能加剧其他受保护属性上的偏差。其替代方案是在潜在空间中处理偏差,但摘要未说明潜在表示如何约束受保护信息、去噪目标与预测目标如何结合,以及推理阶段使用哪些输入。 作者在 The Open University Learning Analytics dataset(OULAD)的三种分布上进行定量分析,并报告潜在空间方法能够维持 Accuracy、同时缓解预测偏差,在部分知晓情境下优于对抗去偏。摘要未给出三种分布的构造、数据划分、公平性指标、具体数值及不确定性,因此该结论应限定于作者报告的评估范围;实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的并非学生预测任务本身,而是“针对已知属性去偏可能影响其他属性”的评估问题。若用于 EEG 跨被试建模,需要具有任务标签及多种被试属性的数据,并改造输入编码与潜在表示约束,避免将与任务相关的神经信息一并消除。低信噪比、小样本及属性与标签混杂可能使去偏损害解码性能。可在固定跨被试划分下,比较不去偏、对抗去偏与潜在空间去偏,同时检查已知及未参与去偏的属性组表现;这仅是可检验假设,不是本文已验证的 BCI 效果,已有 EEG 相关工作尚未检索确认。
值得关注其对“仅知晓部分受保护属性”这一公平性评估情境的分析,以及去噪自编码器潜在空间去偏与对抗去偏的比较,但具体公平性指标及效果幅度尚未验证。
来源:OpenReview · State space models · openreview.net