可扩展的 Infomin 学习

基于摘要分析。该研究关注如何学习既保留任务效用、又尽量不包含指定目标信息的表征，提出基于 slicing 技术的 Infomin 学习方法，以互信息代理指标及其可解析计算的近似替代神经网络互信息估计器。 原问题涉及公平预测中去除受保护属性信息，以及无监督学习中的解耦表征等场景。摘要指出，既有方法多采用对抗训练，通过神经网络估计互信息或其代理，优化较慢且较困难。本文的核心机制是构造新的互信息代理，再推导作者称为准确、可解析计算的近似，从而不再需要构建基于神经网络的互信息估计器。摘要未给出该代理的数学形式、近似成立条件，以及保留任务效用与去除指定信息之间的损失权衡。 作者报告，在算法公平性、解耦表征学习和域适应实验中，相较基线，该方法能在有限时间预算内更有效地去除不需要的信息。具体数据集、基线名称、评价指标、时间预算与计算环境未在摘要中提供，实验协议、消融及统计信息尚未验证，不能据此判断优势的幅度或适用边界。 平台推测（待验证）：可检验的迁移假设是，将此类依赖性抑制项用于 EEG 表征学习，减少被试或会话相关信息，同时保留任务判别信息。其依赖于明确的非目标变量及相应元数据；可复用部分是互信息代理与解析近似，需改造 EEG 编码器和任务效用目标。风险在于被试或会话因素可能与任务信号纠缠，低信噪比和小样本也可能使依赖性估计不稳定。一个小实验是在固定跨被试划分、相同编码器与计算预算下，对比无抑制项、对抗抑制和该代理方法，同时检查任务性能、训练耗时及表征中的被试可预测性。以上不属于原文已验证结果，相关 EEG 工作尚未检索确认。