DenoSent：用于自监督句子表征学习的去噪目标

基于摘要分析。DenoSent 研究自监督句子表征学习，针对句间对比学习较难捕捉细粒度语义的问题，提出从句内信息构造监督的去噪目标。其核心是在句子中引入离散与连续噪声，再训练模型恢复原始形式，以补充依赖样本间关系的表征学习。 机制与结果：对比学习通过拉近相似句子、推远不相似句子的表征来约束表示空间；DenoSent 则利用受扰动输入与原始句子之间的恢复关系。摘要未说明噪声的具体施加位置、重建目标及损失形式。作者报告，该方法在 semantic textual similarity（STS）及多种迁移任务上取得了可与对比学习方法竞争的结果，并可与句间对比目标结合进一步提升表现；具体数据集、指标、对照配置、消融及统计信息尚未验证，不能据此判断提升幅度或普遍优越性。摘要提供了代码仓库，但代码完整性与复现条件尚未验证。 平台推测（待验证）：可迁移的是“由受扰动样本恢复原始样本”的自监督机制，而非已验证的 EEG 效果。原方法依赖句子结构及原始输入提供的恢复监督；迁移到 EEG 时，可复用去噪与对比目标互补的思路，但需将文本扰动和恢复模块改为适合时序、多通道信号的设计。对应瓶颈是有限标注下的表征学习；风险在于低信噪比下重建目标可能偏向背景噪声或被试特征，通道差异及小数据也可能削弱泛化。一个可证伪的小实验是：在相同 EEG 数据划分、骨干和训练预算下，对比仅对比学习、仅去噪及联合目标，并以严格隔离被试的 Cross-subject 任务检验联合目标是否有稳定收益。已有 EEG 相关工作尚未检索确认。