通过零空间校准实现机器遗忘
Machine Unlearning via Null Space Calibration
基于摘要分析。本文研究机器遗忘中的“过度遗忘”问题:模型在删除指定数据影响的同时,可能损害其在保留数据上的性能。作者提出 machine Unlearning via Null Space Calibration(UNSC),通过零空间约束与决策空间校准,尝试兼顾目标样本遗忘和保留样本性能。 核心机制是将遗忘过程限制在针对保留样本构造的特定零空间内,并通过策略性地为待遗忘样本赋予伪标签增强这一过程。摘要未说明零空间由何种表示或矩阵构造,也未提供伪标签生成规则、优化目标及计算开销,这些实现条件尚未验证。 作者报告,在与若干已有基线的比较中,UNSC 能够遗忘目标样本,并改善保留样本上的模型性能。但摘要未给出数据集、模型、删除比例、评估划分、遗忘指标或性能数值,因此尚不能据此判断遗忘是否接近重新训练的效果,也不能量化其对保留数据的收益。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 模型需要响应训练数据删除请求,这种限制更新方向以保护保留数据的机制可能具有参考价值,但它并非已验证的 EEG/BCI 方法。可复用的是更新约束思路,需改造的是适配 EEG 表征的零空间构造与遗忘评估;低信噪比、跨被试差异及小数据可能使保留样本不足以刻画应保护的决策空间。一个可检验的小实验是在固定 EEG 任务及数据划分下删除指定训练样本,对比 UNSC、完整重新训练和常规微调,同时检查遗忘效果与保留集性能。相关 EEG 工作尚未检索确认。
值得核对其如何利用保留样本对应的零空间约束遗忘更新,以及遗忘充分性与保留集性能之间的权衡;摘要声称的性能改善仍需结合完整实验协议验证。
来源:OpenReview · State space models · openreview.net