跳到正文
OpenReview · Representation learning· Somnath Basu Roy Chowdhury; Nicholas Monath; Kumar Avinava Dubey; Amr Ahmed; Snigdha Chaturvedi·· 2023-09-22精选AI 评分76

通过核化率失真最大化实现鲁棒概念擦除

Robust Concept Erasure via Kernelized Rate-Distortion Maximization

AI 导读

基于摘要分析。本文研究分布式表示中多个属性相互纠缠的问题,目标是在尽量保留其他信息的同时,移除指定概念。作者提出 Kernelized Rate-Distortion Maximizer(KRaM),以距离度量学习和修改的率失真函数学习表示变换,而非提升目标概念的可预测性。 机制上,KRaM 根据待擦除概念的标签定义指定距离,使变换后的表示匹配该距离;其目标促使概念标签相似的实例在学习到的表示空间中变得不相似,同时保留其他信息。因此,该方法依赖待擦除概念的标签,而不是无监督地识别需要移除的属性。作者还对目标函数的若干性质进行理论分析,并提出 alignment score,衡量新表示与原表示空间的相似程度;这一指标不应直接等同于下游任务性能或隐私保障。 作者报告,KRaM 可在多个领域擦除类别型、连续型及向量型概念,摘要列举了词嵌入中的二元性别变量和 GPT-3 表示中的向量型变量。摘要未给出具体数据集、数据划分、对照方法或数值结果,实验协议、消融及统计信息尚未验证;目标函数的精确形式、核函数选择和实现条件也需核对全文。 平台推测(待验证):若 EEG 表示中的被试或会话属性可由标签刻画,KRaM 可能用于研究能否减少这些干扰信息,同时保留运动想象等任务信息。可复用的是表示变换与概念擦除目标,需改造的是 EEG 编码器接口、概念距离定义及任务保留评估。低信噪比、小样本、通道差异,以及被试属性与任务信息纠缠,均可能使擦除同时损害有效信号。一个可证伪的小实验是在固定 EEG 编码器后,仅用训练集的被试标签拟合变换,在同一跨被试划分下比较变换前后的任务 Accuracy 与被试属性可预测性,并用独立探测器检查残留属性;若属性可预测性未降低或任务性能明显受损,则不支持该迁移假设。已有相关 EEG 工作尚未检索确认。

阅读价值

值得关注的是其以概念标签定义距离、通过修改的率失真目标擦除多种类型属性的机制,以及用于衡量原表示保留程度的 alignment score;对 EEG 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net