缓解无监督句子表征的过平滑

基于摘要分析。本文研究无监督句子表征学习，提出 Self-Contrastive Learning（SSCL），通过从预训练语言模型（PLMs）的中间层采样负样本，旨在缓解过平滑并改善句子表征质量；研究对象是自然语言文本，并非 EEG 或 BCI。 作者认为，过平滑限制了 PLMs 的表征能力，使所得句子表征次优。SSCL 将中间层信息用于负样本构造，被作者定位为可接入现有模型的即插即用对比学习框架。摘要未交代过平滑的操作性定义、层选择方式、负样本粒度、具体损失及训练配置，这些机制细节尚未验证。 作者报告，SSCL 在 Semantic Textual Similarity 和 Transfer datasets 上改善了包括 BERT、SimCSE 在内的强基线表现。摘要未提供具体数据集名称、指标、数值、数据划分或统计结果，因此目前不能量化增益，也不能判断改进在不同评估协议下是否一致。实验协议、消融及统计信息尚未验证。材料提供了代码仓库地址，但实现内容和复现条件尚未核验。 平台推测（待验证）：若 EEG 编码器也存在随深度增加而表征趋同的问题，可检验利用中间层表征构造负样本是否有助于保留判别信息。这一假设依赖可比较的多层表征与合理的正负样本定义；可借鉴的是层间负样本构造思路，需改造的是 EEG 时序片段、通道与增强视图的对应关系。低信噪比、跨被试差异及小数据可能使中间层负样本承载伪迹或被试特征，也可能将有效共享信息错误排斥。小规模验证可固定同一 EEG 编码器与数据划分，对照原训练目标和加入该机制后的任务指标及层间表征相似性。已有 EEG 相关工作尚未检索确认，原领域结果不构成 BCI 有效性的证据。