面向对抗鲁棒性的解耦文本表示学习：信息论视角

基于摘要分析。本文研究 NLP 模型在输入文本受到难以察觉的扰动时的对抗脆弱性，提出从解耦表示学习角度显式区分鲁棒与非鲁棒文本特征。其核心贡献是受信息论中 variation of information（VI）启发，构造由互信息组成的学习目标，同时刻画潜在嵌入的语义代表性及两类特征之间的区分性。 机制方面，作者设计解耦学习网络来估计目标涉及的互信息，并将舍弃非鲁棒特征作为提升对抗鲁棒性的关键。摘要未给出互信息估计器、目标的具体形式、鲁棒特征的识别依据及训练和推理流程，这些实现条件尚未验证。 结果方面，作者报告，在文本分类和蕴含任务的对抗攻击评估中，该方法显著优于代表性方法。摘要未提供数据集、攻击类型与预算、划分协议、对照方法名称、指标或数值，因此无法判断增益幅度及其适用范围；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 任务中可区分任务相关稳定因素与扰动敏感因素，该互信息解耦思路可能用于研究噪声敏感表示，但文本中的非鲁棒特征并不等同于 EEG 伪迹或被试差异。可借鉴的是表示约束思路，需改造的是时序编码器、扰动定义及任务信息保留约束；其所需监督与样本规模尚待全文确认。低信噪比、通道变化和小样本可能使互信息估计不稳定，也可能导致弱判别信号被误删。一个可证伪的小实验是在固定 EEG 分类任务和被试内划分下，对比同一编码器加入与不加入解耦目标时的干净信号表现及预定义扰动下的性能下降，以检验其是否确实保留任务信息并降低扰动敏感性。已有 EEG 相关工作尚未检索确认。