COMBAT:通过深度插值激活迁移实现跨模型越狱
COMBAT: Cross-Model Jailbreaking via Depth-Interpolated Activation Transfer
基于摘要分析。本文研究语言模型的表征层越狱:来自其他模型的拒绝与危害检测方向,经表征对齐后,能否在相同搜索预算下达到或超过目标模型原生方向的干预效果。作者提出 COMBAT,以逐层表征对齐和深度插值桥接,将源模型中的方向迁移到目标模型隐藏空间。 方法首先在源模型中构建拒绝与危害检测方向库,再通过可适配不同模型深度的桥接映射完成迁移;随后采用受约束的两阶段选择识别行为上有效的配置,并以三角形层间渐缩权重实施局部干预。摘要未提供桥接的具体参数化、训练损失、约束定义或方向提取细节,尚不能据此完整复现。 作者报告,在五个经过对齐的语言模型所组成的20个有序源—目标模型对上进行评估,使用留出状态重建检验跨模型对应关系,并以相同搜索预算的目标模型原生方向作为对照。在四个主要基准上,Full COMBAT 的微平均、由 GPT 判定的攻击成功率为96.2%,相同预算原生方向对照为88.7%,未修改目标模型为20.3%。这些数字属于摘要所述越狱评估协议,不能解释为其他任务或 BCI 的性能。 作者进一步报告,拒绝与危害检测方向具有互补贡献;较有效的迁移来自较窄的源模型层区间,以及紧邻助手生成之前的末端方向提取位置。桥接对留出状态的拟合较好,其归一化非负桥接余弦轮廓随远离选定锚点而衰减。上述结果支持作者关于跨模型表征对齐可辅助构建目标侧干预的结论,但不能单凭重建质量推出普遍有效的行为迁移。 模型与基准名称、数据划分、选择阶段与最终评估的隔离方式、GPT 评估器配置、消融及统计信息尚未验证。本文主要对象是语言模型安全,而非 EEG 或 BCI;摘要未提供足以建立具体 BCI 迁移路径的证据,相关工作尚未检索确认。
值得阅读的是其以相同搜索预算的目标模型原生方向为对照,检验跨模型表征对齐能否改善目标侧干预效果;作者报告的优势仍需结合全文中的选择协议、评估器与基准构成核对。
来源:OpenReview · State space models · openreview.net