结合视图内与视图间对比学习的区域嵌入
Region Embedding With Intra and Inter-View Contrastive Learning
基于摘要分析。该研究面向无标签城市数据的无监督区域表征学习,提出 ReMVC(Region Embedding with Multi-View Contrastive Learning),通过视图内和视图间对比学习,分别改善单一视图的区域特征提取与不同视图之间的信息共享。原论文的研究对象是城市区域,并非脑区或 BCI 信号。 机制上,视图内模块比较同一视图中的不同区域,以学习具有区分性的区域嵌入;视图间模块比较同一区域在不同视图中的表征,作为软协同正则约束嵌入参数并促进跨视图知识迁移。该设计依赖同一区域在多个视图之间的对应关系。具体城市数据类型、视图构造、正负样本采样、损失形式及训练规模尚未验证。 作者将区域嵌入用于 land usage clustering(土地用途聚类)和 region popularity prediction(区域热度预测)。作者报告,相比七种被其称为当时最先进的基线,模型在两类下游任务上取得改进,其中土地用途聚类的提升幅度超过 30%;摘要未给出具体指标、计算口径、数据划分及各基线结果,因此不能将该数值解释为准确率提升或百分点变化。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 数据能够构造语义一致且可配对的多视图,这种分离视图内区分与视图间共享的机制可能用于多视图自监督表征。可复用的是双层对比学习思路,需改造的是视图定义、编码器与正负样本规则;不同片段可能属于相同脑状态,简单将其视为负样本可能引入错误排斥,低信噪比、跨被试差异及通道变化也可能使共享表征偏向伪迹或个体身份。一个可检验的小实验是在固定 EEG 数据划分与编码器条件下,对比仅视图内、仅视图间及联合目标在同一下游任务中的表现,并核对是否保留任务相关信息。以上是迁移假设,不是论文已验证的 EEG 结果;已有 EEG 相关工作尚未检索确认。
值得关注的是 ReMVC 将视图内区域区分与视图间信息共享拆分为两个对比学习模块,但其对 EEG 多视图表征的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net