软提示威胁：通过嵌入空间攻击开源 LLM 的安全对齐与机器遗忘

基于摘要分析。该研究关注具备完整模型访问权限时，开源 LLM 的安全对齐与机器遗忘能否抵御连续输入空间中的攻击，提出 embedding space attack，直接攻击输入 token 的连续嵌入表示，而非仅修改自然语言文本。 核心机制与威胁模型：摘要将既有离散文本攻击与面向开源模型的嵌入空间攻击区分开来；前者可直接迁移至闭源模型，后者利用完整模型访问条件，改变攻击所处的表示空间。具体攻击目标、优化算法、扰动约束、软提示构造和所需访问权限尚未验证，不能据此确定其实现细节或部署适用范围。 作者报告，在摘要所述评估中，嵌入空间攻击比离散攻击或模型微调更高效地绕过安全对齐并触发有害行为；受攻击模型还可用于生成自然语言形式的离散越狱输入。作者同时提出机器遗忘场景下的威胁模型，并报告在多个数据集与模型上提取出本应已删除的信息。摘要未提供具体模型、数据集、遗忘任务、效率定义或量化结果，实验协议、对照条件、消融及统计信息尚未验证。 阅读重点是区分连续嵌入访问与普通文本访问两种攻击条件，并核对遗忘信息的提取判据及攻击成本；这些条件决定结果能否支持实际安全或遗忘有效性的判断。本文的主要研究对象是 LLM 安全，不是 EEG 解码或 BCI 算法。现有材料未给出与神经信号处理的具体机制对应，因此不据此提出 BCI 迁移效果或复现实验建议。