跳到正文
OpenReview · State space models·· 26 天前精选AI 评分77

SHARE:用于平衡概念擦除与保留的整流半空间保持

SHARE: Rectified Half-Space Preservation for Balancing Concept Erasure and Retention

AI 导读

基于摘要分析。本文研究文本到图像扩散模型中的编辑式概念擦除:移除指定概念,同时保留非目标行为。作者将擦除表述为约束优化问题,分析严格等式保持约束对可行编辑自由度的限制,并提出整流半空间松弛及方法 Set-aware Half-space with Analytic Readouts for Erasure(SHARE)。 核心机制是让需要保留的表征处于整流后的不激活区域,而不要求其预激活值严格为零,从而放宽保持约束。SHARE 学习一个共享的整流选择器,并以闭式方式计算各层的残差读出,使更新能够依赖目标概念,同时避免对选择器和读出进行联合优化。摘要未给出具体约束表达式、选择器训练目标、编辑层位置或计算开销,这些细节尚未验证。 作者报告,在多种概念规模、提示词类型和模型架构的实验中,SHARE 获得了较有利的目标擦除与非目标保留权衡。摘要未提供模型名称、数据集、评价指标、基线或具体数值,因此不能据此判断优势幅度;实验协议、消融及统计信息尚未验证。复现需取得完整约束定义、训练与闭式求解流程,以及概念集合和提示词评估协议。 平台推测(待验证):其可迁移的机制是通过不等式约束放宽参数编辑中的保留条件,而非已验证的 EEG/BCI 方法。假设 EEG 表征中存在可区分的待抑制干扰与待保留任务信息,可比较等式保持与半空间保持在同一冻结编码器上的干扰抑制和任务性能权衡;但需重新定义选择器、编辑位置及保留集合。低信噪比、任务与干扰表征重叠、跨被试及通道差异可能使这种分离失效,小数据也可能导致选择器过拟合。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性证据。

阅读价值

值得阅读其如何以整流半空间约束替代严格等式保持约束,并结合共享选择器与闭式残差读出平衡概念擦除和非目标保留;具体效果及 BCI 适用性尚未验证。

来源:OpenReview · State space models · openreview.net