跳到正文
arXiv · 多模态与生成机制· Nattanat Chatthee; Tagon Sompong; Ekapol Chuangsuwanich; Supasorn Suwajanakorn·· 1 天前精选AI 评分73

用于扩散模型概念擦除的推拉式注意力锚定

Push-Pull Attentional Anchoring for Diffusion Concept Erasure

AI 导读

基于摘要分析。本文研究预训练扩散模型的概念擦除:在不进行完整重训练的前提下,移除不希望生成的概念,并尽量避免损害非目标内容的生成质量。作者提出 Push-Pull Attentional Anchoring(PPAA),在交叉注意力空间中移开目标表征,同时通过有界余弦相似度约束锚定擦除幅度,以控制语义漂移。 核心机制是用相对相似度比值而非绝对差值定义自适应阈值。作者将该阈值解释为具有明确语义保留比例含义的控制量,并据此在不同层统一使用同一阈值。该设计针对作者指出的现有方法问题:依赖 classifier-free guidance 或负面提示词缩放等启发式强度调节,可能造成过度且难以控制的语义漂移。摘要未给出相似度计算对象、约束公式、具体优化目标,以及训练或推理时的实施方式,这些细节尚未验证。 作者报告,在涵盖名人、艺术风格、裸体及知识产权相关概念的实验中,PPAA 在 Stable Diffusion v1.4 上相较既有方法取得了较有利的概念擦除与非目标生成质量权衡,并展示了对 FLUX 等现代架构的适用性。摘要未提供具体指标、数值、提示词与数据划分、对照方法配置,因而暂不能判断改进幅度或跨架构适用范围;实验协议、消融及统计信息尚未验证。 本文的直接研究对象是图像生成模型的概念控制,并非 EEG 解码或 BCI。现有材料不足以建立具体的神经信号方法迁移路径,不将其结果解释为已验证的 BCI 收益。复现前需核对擦除强度与语义保留之间的操作性定义、不同概念类别的评估方式,以及跨层统一阈值的有效边界。

阅读价值

值得关注其以有界相似度约束控制概念擦除强度、兼顾非目标生成质量的机制,但摘要中的效果主张尚需结合完整评估协议与消融验证。

来源:arXiv · 多模态与生成机制 · arxiv.org