跳到正文
OpenReview · State space models·· 27 天前精选AI 评分76

NuST:用于扩散模型鲁棒概念擦除的零空间约束激活引导

NuST: Null-Space-Constrained Activation Steering for Robust Concept Erasure in Diffusion Models

AI 导读

基于摘要分析。该研究面向文生图扩散模型的概念擦除,提出 NuST:在不更新模型参数的情况下,通过零空间约束的激活引导,将目标概念的表征导向安全锚点语义,并限制对非目标表征的干扰。原论文研究对象是图像生成模型,并非 EEG 或 BCI。 机制上,NuST 在选定的模块与时间步位置,利用成对提示构造从目标到锚点的激活偏移,再学习通道级变换,使其有效作用方向受限于所保留良性激活的零空间。变换通过闭式正则化回归求得,无需基于梯度的优化或模型参数更新。相较于参数微调或编辑,其方法特点是将干预放在激活层面,并显式约束可能影响非目标概念的方向;摘要未提供零空间构造、正则化形式及模块与时间步选择的细节。 作者报告,在 Stable Diffusion v1.5 上进行裸体内容、艺术风格及物体擦除评估:五个标准与对抗基准上的裸体内容恢复平均攻击成功率降至 0.009%;针对三位艺术家的目标风格分类准确率为零;目标物体平均成功率降至 0.34%。作者同时报告生成质量与文本—图像对齐保持竞争力,但摘要未列出这些指标的数值、基线或统计不确定性。上述结果分别对应不同擦除任务,不能直接横向比较。 全文、具体基准名称、提示与数据划分、对照设置、消融及统计信息尚未验证。复现时需核对良性激活覆盖范围、目标与锚点提示的构造、闭式求解成本,以及零空间约束在新提示和对抗攻击下是否仍能兼顾擦除与保留能力。现有材料未建立该机制与 EEG/BCI 任务的具体对应关系,不据此推断神经信号解码收益。

阅读价值

值得核对其零空间约束能否在抑制目标概念的同时保留非目标生成能力,尤其是良性激活的构造、正则化回归的计算成本及对抗评估协议。

来源:OpenReview · State space models · openreview.net