跳到正文
OpenReview · State space models· Tae-Young Lee; Sundong Park; Minwoo Jeon; Hyoseok Hwang; Gyeong-Moon Park·· 2025-01-01精选AI 评分73

ESC:用于知识删除的空间概念擦除

ESC: Erasing Space Concept for Knowledge Deletion

AI 导读

基于摘要分析。本文研究深度学习模型中的个人知识删除,关注用户对完整知识擦除的需求,以及删除后嵌入特征仍可能泄露个人知识的问题。作者提出 Knowledge Deletion(KD)任务与衡量特征空间知识保留的 Knowledge Retention score(KR),并提出无需训练的 Erasing Space Concept(ESC)及使用可学习掩码的 ESC with Training(ESC-T)。 核心机制是针对待遗忘知识的重要特征子空间,消除其中相关激活,从而限制该知识在特征中的表达;ESC-T 则借助可学习掩码,改善遗忘与保留其他知识之间的权衡。其阅读价值在于将评估视角延伸到嵌入特征中的知识残留,而非仅关注模型输出。摘要未提供 KR 的计算公式、重要子空间的识别方式、掩码训练目标及删除操作的具体位置,这些实现细节尚未验证。 作者报告,在多种数据集和模型上的实验中,所提方法取得最快速度与最先进性能,并可用于包括人脸领域在内的不同遗忘场景。摘要未列出数据集、模型、对照方法、具体数值或计时条件,因此无法判断这些优势的适用范围,也不能将其视为严格隐私保证。实验协议、消融及统计信息尚未验证。摘要提供了代码地址,但代码内容、依赖与复现条件尚未核验。 平台推测(待验证):若 EEG 模型的嵌入包含可识别的被试身份信息,该方法可能为研究特征级隐私删除提供机制参考,但原文并未验证 EEG 或 BCI 应用。可复用的是子空间抑制与可学习掩码思路;需改造的是待删除知识的监督定义、身份残留评估,以及 BCI 任务信息保留指标。低信噪比、通道差异、小数据及身份与任务特征纠缠,均可能导致隐私删除同时损伤任务表现。一个可检验的小实验是在固定 EEG 数据划分与任务解码器下,对比删除前后的被试身份可预测性和任务 Accuracy,并仅在相同协议下解释结果。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读其以特征空间知识残留为评估对象的 Knowledge Deletion 定义,以及 ESC 与 ESC-T 对遗忘和知识保留的不同处理;摘要中的速度与性能优势仍需结合完整实验协议核对。

来源:OpenReview · State space models · openreview.net