潜在空间对抗训练改善拒绝行为的表征

基于摘要分析。本文研究语言模型的潜在空间对抗训练（Latent Adversarial Training，LAT）如何改变拒绝行为的内部表征，而不只考察其是否提升攻击鲁棒性。作者以 Llama 2 7B 为研究对象，将 LAT 与监督安全微调（SSFT）、嵌入空间对抗训练（AT）进行比较，分析训练扰动带来的表征变化及其安全意义。 方法上，作者计算有害与无害指令对之间的激活差异，并用 Singular Value Decomposition（SVD）分析这些差异的主要方向，再通过拒绝向量消融攻击检验表征的可利用性。摘要将此前关于拒绝行为主要编码于单一潜在方向的发现作为研究背景；本文关注 LAT 是否改变这种编码结构。 作者报告，在所分析的 Llama 2 7B 设置下，LAT 模型激活差异的前两个 SVD 分量解释了约 75% 的方差，高于参考模型。该数值描述的是激活差异的方差解释比例，并非拒绝准确率或攻击成功率。作者还报告，使用参考模型提取的向量攻击时，LAT 模型更鲁棒；但使用 LAT 模型自身生成的向量攻击时，其表现比 SSFT 和 AT 更脆弱。摘要未给出相应攻击成功率或效应量。 作者将结果解释为 LAT 使拒绝行为获得更充分的表征，同时形成可被针对性利用的方向。因此，表征更集中不能直接等同于整体安全性更高。指令数据来源与配对方式、激活提取位置、训练扰动配置、攻击实施细节，以及实验协议、消融及统计信息尚未验证。本文主要研究语言模型安全表征，材料未提供 EEG 或 BCI 验证，不宜据此推断神经信号解码收益。