跳到正文
OpenReview · State space models· Yongkang Li; Panagiotis Eustratiadis; Simon Lupart; Evangelos Kanoulas·· 2025-01-01精选AI 评分76

面向稠密检索的连续空间无监督语料库投毒攻击

Unsupervised Corpus Poisoning Attacks in Continuous Space for Dense Retrieval

AI 导读

基于摘要分析。本文研究稠密信息检索中的语料库投毒:攻击者向语料库注入少量恶意生成文档,以破坏检索排序。作者提出直接在连续嵌入空间进行优化的攻击方法,并研究攻击者事先不知道查询分布的情形;这里的“无监督”特指这一威胁设定,不应据此推断全部训练监督条件。 方法针对离散词替换搜索与连续嵌入检索之间的空间差异,训练扰动模型,在维持原始文档与对抗文档嵌入之间几何距离的同时,最大化二者在 token 层面的差异。摘要未给出距离约束的具体形式、损失函数、扰动模型结构及嵌入到文本的生成流程,这些机制细节尚未验证。 作者报告在域内与域外数据集上评估了 top-1 attack 和 corpus poisoning attack,并覆盖白盒与黑盒设置,但摘要未提供数据集名称、划分、攻击成功率或排序性能变化。作者报告,在相同硬件条件下,每个目标文档的成功对抗样本生成耗时低于两分钟,相较文献中最快的基于梯度的词替换方法快四倍;该比较的具体基线与计时范围需查阅全文。作者还报告生成文本具有较低困惑度,并据此认为更难检测,但摘要未提供检测器或检测率结果,不能将文本自然度直接等同于已验证的隐蔽性。 本文的主要对象是信息检索系统安全,而非 EEG 或 BCI 解码。现有材料未建立其机制与神经信号任务的具体对应关系,因此不据此提出 BCI 迁移效果或复现实验建议。实验协议、消融及统计信息尚未验证。

阅读价值

值得关注其在未知查询分布条件下直接优化连续嵌入的语料投毒机制,以及生成速度与文本困惑度的评估,但攻击成功率、隐蔽性和复现条件仍需结合全文核验。

来源:OpenReview · State space models · openreview.net