跳到正文
OpenReview · State space models· Jiaming He; Cheng Liu; Guanyu Hou; Wenbo Jiang; Jiachen Li·· 2025-01-01精选AI 评分71

PRESS:通过嵌入空间偏移保护检索增强生成中的隐私

PRESS: Defending Privacy in Retrieval-Augmented Generation via Embedding Space Shifting

AI 导读

基于摘要分析。本文研究检索增强生成(RAG)在外部信息检索过程中面临的隐私泄露风险,提出 PRESS,通过调整文本嵌入空间,使潜在隐私泄露查询映射到安全目标,以保护检索环节中的私有信息。 方法包含两个阶段:首先,使用基于 proximal policy optimization(PPO)的训练对预训练语言模型进行优化,生成目标训练样本;随后,利用这些样本对文本嵌入模型进行定向偏移微调,引导风险查询在嵌入空间中的映射。摘要所描述的核心干预对象是检索用文本嵌入模型,而非直接修改生成模型的输出策略;安全目标的定义、训练样本的构造规则及具体优化目标尚未验证。 作者报告,在代表性模型与数据集上的实验表明,PRESS 能在保持 RAG 正常功能的同时实现较高防御性能与效率。摘要未提供模型及数据集名称、评估指标、数值、攻击设置或对照基线,因此尚不能量化防护收益及效用代价。实验协议、消融及统计信息尚未验证;阅读全文时需核对隐私威胁模型、安全目标的选择方式,以及对未见风险查询与正常查询的评估范围。 本文的主要研究对象是文本 RAG 隐私防护,所给材料不包含 EEG 或 BCI 实验,也未建立面向神经信号任务的具体机制对应关系,不能据此推断其具有 BCI 隐私保护效果。

阅读价值

值得关注其通过微调检索嵌入模型将潜在隐私泄露查询导向安全目标的防护机制,但防御效果、正常检索效用及效率之间的权衡仍需结合完整实验协议核对。

来源:OpenReview · State space models · openreview.net