scJEPA:用于单细胞表征的双空间自监督学习
scJEPA: Dual-Space Self-Supervised Learning for Single-Cell Representations
基于摘要分析。scJEPA 面向大规模单细胞转录组表征学习,将表达空间中的去噪重建与嵌入空间中的跨视图潜在预测结合,旨在同时保留细胞表达信息、学习对视图噪声稳健的表征。其主要研究对象是细胞异质性与单细胞数据分析,并非 EEG 或 BCI。 机制上,摘要将两类自监督方法的局限区分为:重建方法能够对基因表达去噪,但不直接约束嵌入空间;对比方法能够组织嵌入,却不显式对输入去噪。scJEPA 以去噪重建捕获表达空间的全局结构,并通过跨视图潜在预测,使掩码视图具有一致表征。作者认为,两项目标分别承担信息保留与信息筛选的作用,从而保留可预测的生物学信号,抑制单细胞测量中的 dropout 与批次效应等视图特异性噪声。具体损失形式、掩码策略、预测目标构造及网络实现尚未验证。 作者报告,在大规模预训练设置下,与重建类和对比类单空间目标相比,scJEPA 在零样本细胞类型检索、留出数据集分类、跨批次整合及向空间转录组迁移等任务上均取得更好的表现。摘要未提供数据集名称、样本规模、划分细节、指标或数值,因此无法判断提升幅度及各任务的可比性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的机制假设是,以信号空间去噪配合潜在空间一致性约束,可能有助于缓解 EEG 中噪声抑制与任务信息保留之间的矛盾。这一假设依赖于掩码视图仍共享可预测的任务信号;单细胞表达中的批次效应并不等同于 EEG 的跨被试或跨会话变化。双目标设计可作为复用候选,但输入编码、时空掩码及噪声模型需改造。低信噪比、通道差异和小数据可能使预测目标偏向背景活动,或抹去短暂的判别信号。一个可证伪的小实验是在固定 EEG 数据划分、骨干网络与训练预算下,对照仅去噪重建、仅潜在预测及双目标训练,分别检查任务表现与噪声扰动稳健性。已有 EEG 相关工作尚未检索确认。
值得核对其表达空间去噪与嵌入空间跨视图预测的互补性,以及相对单空间目标的对照协议;摘要支持单细胞表征方面的阅读价值,但尚不能据此确认 EEG/BCI 迁移效果。
来源:OpenReview · State space models · openreview.net