使用句法对齐负样本的无监督句子表征学习

基于摘要分析。本文研究无监督句子表征学习中数据增强可能带来的语义不一致与特征抑制问题，提出句法对齐负样本生成方法 SAN，以及将其纳入对比学习的 Hierarchical-InfoNCE 损失（HiNCE）。研究对象是自然语言句子表征，并非 EEG 或 BCI 解码。 SAN 使用语义重要性感知的 Masked Language Model（MLM），评估各词对句子语义的贡献，生成与原句具有较高文本重叠、但表达不同含义的负样本。该设计旨在让对比学习区分表面相似而语义不同的句子。HiNCE 同时使用常规负样本与句法对齐负样本，并在训练中采用不同温度；具体损失公式、温度配置及词语贡献的估计方式尚未验证。 作者报告，在七项语义文本相似度任务上，相较所比较的先进模型取得显著改进。摘要未提供任务名称、具体指标、效果幅度与统计检验细节，因此不能据此判断增益大小或跨任务稳定性。训练数据、模型配置、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可考察的跨领域机制是按负样本类型设置不同对比强度，而非将句法扰动直接用于 EEG。假设 EEG 中能够构造任务语义可靠、但表面信号相似的负样本，可小规模比较统一温度与分类型温度的对比学习，并固定编码器和数据划分。主要风险是 EEG 低信噪比、跨被试差异及小数据条件下的语义误判，使所谓困难负样本实际成为假负样本。其在 EEG 中的有效性尚未验证，已有 EEG 相关工作尚未检索确认。