跳到正文
arXiv · 在线与高效推理· Lass Najmuldeen; Seyedhamidreza Mousavi·· 5 天前精选AI 评分72

探索大语言模型中基于深度的动态推理在不同退出深度下的越狱脆弱性

Exploring Jailbreak Vulnerability Across Depth-Based Dynamic Inference in Large Language Models

AI 导读

基于摘要分析。本文研究大语言模型在采用基于深度的动态推理时,退出深度如何影响越狱攻击的有效性,旨在厘清推理效率与安全鲁棒性之间的关系。其研究对象是 LLM 的中间层输出与对抗提示攻击,而非 EEG 或 BCI 解码。 基于深度的动态推理允许模型从中间层生成输出,以适应不同计算资源预算。本文围绕不同退出深度开展越狱鲁棒性分析,并考察对抗后缀的优化难度及其对模型效用的影响;摘要未提供具体动态退出实现、模型名单或攻击优化设置。 作者报告,在所考察的实验条件下,浅层退出比深层退出更能抵抗越狱攻击;更深的退出位置使对抗后缀优化达到更低的攻击损失;对抗后缀对效用的影响在不同退出深度间表现一致。攻击损失不等同于攻击成功率,摘要亦未给出效用指标、具体数值或统计不确定性,因此不能据此量化安全收益,也不能推断浅层退出在所有模型与攻击下均更安全。 复现时需核对退出机制、模型及安全对齐状态、攻击与效用评估协议,以及各深度正常任务表现是否可比。摘要提供了代码仓库,但代码内容与可复现性尚未验证;实验协议、消融及统计信息尚未验证。材料未建立该机制与 EEG/BCI 的具体对应关系,不据此推断其具有 BCI 迁移效果。

阅读价值

该研究将动态推理的退出深度与越狱鲁棒性联系起来,值得核对浅层退出的安全收益是否伴随正常任务效用变化,但摘要尚不足以确认其适用范围。

来源:arXiv · 在线与高效推理 · arxiv.org