通过嵌入空间对抗平滑防御多模态大语言模型的越狱攻击

基于摘要分析。本文研究多模态大语言模型受到图像与文本协同越狱攻击时的防御问题，提出 Embedding-Space Adversarial Smoothing（ESAS），在嵌入空间中结合跨模态耦合插值、对比式安全锚定与轻量适配器变换，以约束跨模态对抗输入的表示。 机制上，ESAS 通过基于梯度的视觉扰动和文本后缀注入合成对抗嵌入，利用 Beta 分布混合构造平滑的流形轨迹，再以安全锚点将嵌入吸引至安全区域、推离对抗区域。其主要方法特点是把防御干预放在嵌入空间，并联合处理视觉与文本攻击。摘要未给出具体损失形式、锚点构建方式、适配器结构及训练配置，这些内容尚未验证。 作者报告，在七种攻击、四种架构的评估中，攻击成功率（ASR）由 79.2% 降至 16.8%，对应作者所述的 78.8% 攻击缓解幅度；同时报告 accuracy 下降 0.6%，但该表述是相对降幅还是百分点变化尚未验证。作者还报告 ESAS 优于四种先进防御方法，并在扰动强度最高为 epsilon 0.15 时保持 ASR 低于 20%；扰动范数、输入归一化、各架构分项结果与基线配置未在摘要中说明，不能据此判断跨设置的稳健性。 复现时需核对攻击与正常任务的数据及划分、适配器训练成本、安全锚点的监督来源，以及对未见攻击的泛化评估。实验协议、消融及统计信息尚未验证。本文的主要研究对象是多模态模型安全，而非 EEG 解码或 BCI；摘要未提供可验证的 EEG/BCI 迁移证据，已有相关工作亦尚未检索确认。