OpenReview · Representation learning· Samuel Simko; Mrinmaya Sachan; Bernhard Schölkopf; Zhijing Jin·· 2025-12-31精选AI 评分71
利用对比表征学习提升大语言模型安全性
Improving Large Language Model Safety with Contrastive Representation Learning
AI 导读
基于摘要分析。本文研究大语言模型面对不同类型对抗攻击时的安全防御泛化问题,将模型防御表述为对比表征学习(CRL)任务,通过微调促使良性与有害表征分离。 核心机制是结合基于三元组的损失与对抗性难负样本挖掘,以学习具有安全区分能力的表征。摘要未说明三元组的具体构造、良性与有害样本的标注来源、难负样本搜索方式,以及微调范围,因此尚不能确定该方法对监督数据和计算规模的依赖。 作者报告,在多个模型上的实验中,该方法优于此前基于表征工程的防御,同时增强了对输入级攻击和嵌入空间攻击的鲁棒性,且未损害常规性能。摘要未提供模型名称、数据集、攻击配置、对照方法名称、评价指标或数值;“未损害常规性能”的任务范围及统计依据也尚未验证。实验协议、消融及统计信息尚未验证。 本文主要贡献属于大语言模型安全防御,而非 EEG 或 BCI 表征学习。材料未提供神经信号任务及具体机制对应,不能据此认定其对跨被试泛化或低信噪比信号有效;已有 EEG 相关工作尚未检索确认。
阅读价值
值得核对的是三元组损失与对抗性难负样本挖掘能否同时提升输入级和嵌入空间攻击下的防御泛化;摘要报告了相对既有表征工程防御的优势,但具体协议与性能权衡尚未验证。
来源:OpenReview · Representation learning · openreview.net