Pair-Aware Optimization:协调探索与细化以越狱 LLM 智能体
Pair-Aware Optimization: Coordinating Exploration and Refinement for Jailbreaking LLM Agents
基于摘要分析。本文研究诱导 LLM 智能体执行攻击者指定恶意行为的越狱优化问题,重点考察零阶(ZO)与一阶(FO)优化的互补性及执行顺序,并提出通过 Pair-aware optimization 协调对抗前缀探索与后缀细化的框架。 方法上,ZO 依靠函数值反馈,FO 利用梯度信息。作者系统考察纯 ZO、纯 FO、ZO→FO 和 FO→ZO 四种策略,并构建先用 ZO 探索对抗前缀、再用 FO 细化对应后缀的 ZO-FO 框架。Pair-aware optimization 保留多个前缀候选,有条件地细化各自的后缀,再从形成的前缀—后缀配对中选择,而非仅独立优化某一个组成部分;条件细化与配对选择的具体规则尚未验证。 评估方面,作者强调同一对抗输入在随机生成下可能产生不同的推理轨迹与动作,单次贪心输出不足以覆盖这些行为,因此在优化和评估中采用一致的随机解码。作者报告,在恶意指令与恶意环境两类基准实验中,混合优化比单一优化器方法具有更高攻击有效性,且优化顺序显著影响表现;摘要未提供具体基准名称、模型、指标、数值或统计检验,无法据此量化增益或判断适用范围。 复现时需核对梯度访问条件、函数反馈形式、候选保留与筛选规则、解码设置、优化与评估采样次数,以及各策略的计算或查询预算是否可比。实验协议、消融及统计信息尚未验证。本文主要研究对象是 LLM 智能体安全,现有材料未建立其与 EEG/BCI 信号建模的具体机制对应,不据此推断 BCI 有效性。
值得关注其对 ZO 与 FO 优化顺序、前缀—后缀配对选择及随机解码评估的联合考察,但具体性能增益与实验可复现性尚需全文核验。
来源:arXiv · 学习目标与优化 · arxiv.org