arXiv · 多模态与生成机制· Huilin Zhou; Ruoxi Cheng; Yuhang Wang; Yuming Liu; Minghao Sun; Ruolong Ma; Lan Zhang·· 1 天前AI 评分68
Decoupled Safety Control:用于免训练安全引导的安全控制算法
Decoupled Safety Control: A Safety-Control Algorithm for Training-Free Safety Guidance
AI 导读
基于摘要分析。本文研究文本到图像扩散模型的推理期安全引导,提出即插即用的 Decoupled Safety Control(DSC),旨在不修改模型权重的条件下,减少不安全内容,同时保留正常内容的生成质量与提示词忠实度。 作者指出,许多现有免训练防护方法依赖耦合的安全控制链:同一个不安全条件同时定义应避免的内容、指示当前不安全信号、构造干预,并决定干预何时持续生效。当有害语义与正常语义在当前生成状态中纠缠时,这种耦合可能导致不安全内容残留,或对正常内容产生过度干预。DSC 将安全引导重构为显式依赖状态的控制过程,使实际执行的干预由当前生成状态决定,而非直接沿用单一不安全条件。 作者报告,在标准安全基准上,DSC 能增强具有代表性的潜空间与文本空间防护方法,在更强地抑制不安全内容的同时保持正常生成质量与高效推理。但摘要未给出基准名称、对照方法、评估指标、具体数值或推理开销,因而尚不能判断提升幅度及适用边界。状态如何表征、干预如何构造与启停,以及实验协议、消融及统计信息均尚未验证。 该研究的主要对象是图像生成安全控制,而非 EEG 解码或 BCI。现有材料未提供与神经信号处理之间的具体机制对应关系,不据此推断其 BCI 有效性。
来源:arXiv · 多模态与生成机制 · arxiv.org