跳到正文
arXiv · 学习目标与优化· Bingqi Shang; Yang Zhang; Yiwei Chen; Changsheng Wang; Shiyu Chang; Bingquan Shen; Sijia Liu·· 1 天前精选AI 评分77

原生安全性能否迁移?通过 On-Policy Distillation 跨模型复用安全预训练

Can Native Safety Travel? Reusing Safety Pretraining Across Models via On-Policy Distillation

AI 导读

基于摘要分析。本文研究语言模型的安全预训练能力能否跨模型复用:将专门经过安全预训练的教师所具备的“原生安全性”,迁移给标准预训练学生,使学生在保留通用能力的同时,提高后续微调下的安全鲁棒性。研究对象是语言模型安全迁移,而非 EEG 解码或 BCI。 核心方法是 On-Policy Distillation:学生针对安全预训练提示生成回答,安全预训练教师沿学生自身生成的轨迹,为其 token 级预测提供监督;跨 tokenizer 对齐进一步支持跨模型家族迁移。与通常的大模型向小模型蒸馏不同,作者强调从较小教师向较大学生选择性迁移安全能力,避免同时继承教师的通用能力局限。摘要未给出具体损失函数、对齐算法及训练数据规模。 作者报告,在后续微调评估中,1.7B 学生的平均攻击成功率(ASR)增幅为 5.00%,安全后训练对照为 11.58%;该学生平均通用能力得分为 48.20%,对齐后教师为 27.42%。摘要将前两项表述为 ASR 的百分比增幅,但未明确是否指百分点变化;攻击集合、微调设置、通用能力任务及聚合方式尚未验证,因此这些数值仅能用于理解作者所述实验内的比较。 复现时需核对教师与学生的初始模型、安全提示来源、蒸馏预算、跨 tokenizer 对齐实现,以及后续微调强度和安全后训练基线的可比性。实验协议、消融及统计信息尚未验证。材料未提供与 EEG/BCI 的具体机制对应关系,不据此推断其具有神经信号建模或 BCI 安全收益。

阅读价值

值得阅读之处在于以学生自身生成轨迹上的 token 级蒸馏复用安全预训练能力,并尝试跨 tokenizer、跨模型家族迁移;安全鲁棒性与通用能力能否兼得,仍需核对完整评估协议。

来源:arXiv · 学习目标与优化 · arxiv.org