DenoSent：用于自监督句子表征学习的去噪目标

基于摘要分析。DenoSent 研究自监督句子表征学习，针对对比学习主要依靠句间关系提供监督、可能难以学习细粒度语义的问题，提出句内去噪目标，作为句间对比学习的补充。 核心机制是在句子中引入离散噪声和连续噪声，再训练模型将受扰动的句子恢复为原始形式。监督来自原始句子与受扰动输入之间的对应关系，而非仅依靠不同句子之间的相似或不相似关系。摘要未说明两类噪声的具体实现、损失形式、网络结构、训练规模及与对比目标的组合方式，相关细节尚未验证。 作者报告，在 semantic textual similarity（STS）及多种迁移任务上，该方法相较对比学习方法取得了有竞争力的结果；作者还报告，将句内去噪目标与句间对比方法结合可进一步提升表现。摘要未提供数据集名称、评估划分、基线配置或具体指标，实验协议、消融及统计信息尚未验证。材料提供了代码仓库，但代码内容与复现条件尚未核查。 平台推测（待验证）：可迁移的假设是，利用同一信号受扰动前后的恢复关系，为 EEG 自监督表征补充样本间对比监督。原方法依赖句子的离散结构及原始句子作为恢复目标；迁移时可借鉴去噪训练目标，但需将文本噪声与恢复输出改造为符合 EEG 时序、通道结构的形式。低信噪比可能使模型学习恢复背景噪声，跨被试差异、通道不一致及小数据也可能削弱表征的可迁移性。一个小规模可证伪实验是在固定数据划分、编码器与训练预算下，对比仅对比学习与加入去噪目标的 EEG 表征，并分别核对被试内和跨被试下游表现。已有 EEG 相关工作尚未检索确认，原文结果不构成 BCI 有效性的证据。