跳到正文
arXiv · 多模态与生成机制· Amman Yusuf; Jiwoo Shin; Ruizhi Deng; Heitor Rodrigues Guimarães; Nikita Dvornik; Mijung Park·· 1 天前精选AI 评分75

Token 的反击:基于方向性嵌入修订的安全感知去噪

The Tokens Strike Back: Safety-Aware Denoising with Directional Embedding-based Revision

AI 导读

基于摘要分析。本文研究文本扩散模型在推理阶段的安全引导,提出 SADDER(Safety-Aware Denoising with Directional Embedding-based Revision),通过逐 token 位置的嵌入或激活空间安全信号改进 Safety-Aware Denoiser(SAD)的更新,并分析修改后的去噪器所对应的目标分布。 原有 SAD 是无需训练的安全引导框架,在推理时将文本样本引向 token 概率空间中的安全区域。SADDER 将各位置的安全引导信号与 SAD 更新规则相乘,形成门控机制,使不安全信号较强的 token 更可能被修改。摘要未说明该信号的具体计算方法、所需安全监督及额外组件,因此不能据此确认 SADDER 的完整训练或部署条件。 理论贡献在于:门控后的更新不一定保持固定目标分布的条件均值,因此作者推导了新的逐位置目标分布,使修改后的去噪器对这些分布是精确的,并进一步推导逐位置目标分布与全局目标分布一致的条件。这为理解安全引导如何改变采样目标提供了可核对的理论切入点,但具体假设、证明范围和适用条件尚未验证。 作者报告,在 Masked Diffusion Language Models(MDLMs)和 Uniform-State Diffusion Models(USDMs)的不安全续写与越狱场景中,SADDER 相比现有方法取得了更好的安全性、生成质量与推理成本平衡。摘要未提供具体模型、数据集、对照方法、评价指标或数值,实验协议、消融及统计信息尚未验证,不能据此判断优势幅度或跨模型稳定性。 本文的主要对象是文本生成安全,而非 EEG/BCI 解码。现有材料未建立 token 安全门控与神经信号建模之间的具体机制对应,因此不将其结果外推为 BCI 有效性证据;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其以逐位置嵌入安全信号门控文本扩散去噪更新,并为修改后的去噪器推导对应目标分布的机制;安全、生成质量与推理成本的权衡仍需结合全文实验核对。

来源:arXiv · 多模态与生成机制 · arxiv.org