基于零空间校准的机器遗忘
Machine Unlearning via Null Space Calibration
基于摘要分析。本文研究机器遗忘中的“过度遗忘”问题,即删除指定样本影响时,模型在保留数据上的性能也随之下降。作者提出 Unlearning via Null Space Calibration(UNSC),通过面向保留样本构造的零空间约束遗忘过程,并结合对待遗忘样本的伪标签处理,校准模型决策空间。 核心机制是限制遗忘更新所作用的空间,以减少对保留样本的负面影响。作者报告,UNSC 不仅能遗忘目标样本,还能提高保留样本上的模型性能,并在与若干既有基线的比较中表现更优。但摘要未给出零空间的具体定义、伪标签生成规则、优化目标、数据集、模型规模、遗忘指标或数值结果,实验协议、消融及统计信息尚未验证。需结合全文核对:保留集性能改善是否同时满足有效遗忘,以及遗忘效果、保留性能与计算成本如何共同评估。摘要提供了代码链接,其实现内容与复现条件尚未验证。 平台推测(待验证):该机制可能对应 EEG 模型在响应训练数据删除请求时,尽量维持其他样本预测能力的需求,而非直接提升 BCI 解码性能。迁移假设依赖可访问的保留 EEG 数据及其表征:零空间约束思想可能复用,但表征选择、约束构造和伪标签策略需适配 EEG。低信噪比、跨被试差异及小数据条件可能使保留样本所定义的约束空间不稳定。可在固定 EEG 解码模型与数据划分下,对同一删除请求比较 UNSC、普通微调及删除后从头重训练,同时检验遗忘有效性和保留集性能。已有 EEG 相关工作尚未检索确认。
值得核对其如何以保留样本定义零空间约束,并兼顾目标样本遗忘与保留数据性能;摘要报告的性能提升尚需结合遗忘有效性、对照基线及实验协议验证。
来源:OpenReview · State space models · openreview.net