在策略蒸馏迁移语言模型原生安全性

基于摘要分析。本文研究语言模型的安全预训练能力能否跨模型复用：将专门经过安全预训练的教师所具备的“原生安全性”，迁移给标准预训练学生，使学生在保留通用能力的同时，提高后续微调下的安全鲁棒性。研究对象是语言模型安全迁移，而非 EEG 解码或 BCI。 核心方法是 On-Policy Distillation：学生针对安全预训练提示生成回答，安全预训练教师沿学生自身生成的轨迹，为其 token 级预测提供监督；跨 tokenizer 对齐进一步支持跨模型家族迁移。与通常的大模型向小模型蒸馏不同，作者强调从较小教师向较大学生选择性迁移安全能力，避免同时继承教师的通用能力局限。摘要未给出具体损失函数、对齐算法及训练数据规模。 作者报告，在后续微调评估中，1.7B 学生的平均攻击成功率（ASR）增幅为 5.00%，安全后训练对照为 11.58%；该学生平均通用能力得分为 48.20%，对齐后教师为 27.42%。摘要将前两项表述为 ASR 的百分比增幅，但未明确是否指百分点变化；攻击集合、微调设置、通用能力任务及聚合方式尚未验证，因此这些数值仅能用于理解作者所述实验内的比较。 复现时需核对教师与学生的初始模型、安全提示来源、蒸馏预算、跨 tokenizer 对齐实现，以及后续微调强度和安全后训练基线的可比性。实验协议、消融及统计信息尚未验证。材料未提供与 EEG/BCI 的具体机制对应关系，不据此推断其具有神经信号建模或 BCI 安全收益。