当引导成为防护:文生图生成中不安全输入的早期拦截
When Guidance Becomes a Guard: Early Interception of Unsafe Inputs in Text-to-Image Generation
基于摘要分析。本文研究文生图扩散模型能否利用原生生成信号,在图像合成完成前识别不安全及对抗性输入,提出 Conditional Semantic Trajectory Interception(CSTI),将安全干预从生成后过滤前移至生成早期。 核心机制是利用 classifier-free guidance 中条件与无条件响应的差异。作者报告,条件响应中的安全相关信号可通过紧凑统计量与线性读出提取;CSTI 在早期检查点聚合条件与无条件响应的激活对比,用于经校准的风险检测。检测器针对具体概念,使用典型概念样例与安全样例拟合,不依赖攻击样本,不需要中间图像解码,也不修改生成器。摘要未提供具体激活位置、聚合公式、检测器拟合细节或校准流程。 作者报告,在五个生成器、四个对抗攻击集合及两个通用 NSFW 数据集上,以相同的 5% FPR 为比较条件,CSTI 在与六个基线的比较中取得最强整体表现;摘要未列出具体检测指标、各数据集得分或基线名称。作者还报告,在被拦截的生成路径上,早期拦截使生成延迟降低超过 60%;这一结果不能直接解释为所有请求的平均延迟收益。 全文需重点核对检查点选择、训练与测试划分、概念覆盖、风险校准及不同生成器间是否需要分别拟合。实验协议、消融及统计信息尚未验证。研究的主要对象是文生图生成安全,材料未提供 EEG/BCI 验证或具体机制对应,因此不据此推断其对神经信号建模的有效性。
值得核对的是,CSTI 利用生成器原生条件响应而非生成后图像进行风险检测,并报告了固定误报率下的检测与延迟收益;其校准方式、检查点选择及跨生成器适用条件尚需全文验证。
来源:arXiv · 多模态与生成机制 · arxiv.org