通过上下文预测学习多变量时间序列分类表征
Learning Representations for Multivariate Time Series Classification via Context Prediction
基于摘要分析。本文研究多变量时间序列分类的自监督表征学习,提出轻量框架 C-Pred,以 next-patch context prediction 替代依赖数据增强的对比学习或信号重建。主要贡献是将预训练转化为局部时间邻接关系的分类任务,并结合通道独立编码降低计算负担。 具体而言,给定一个参考 patch,模型从同一实例的 K 个候选 patch 中识别其紧邻的后续 patch,形成 K 类分类问题。该机制仅需编码少量局部 patch,不依赖数据增强、跨实例负样本采样或信号重建。各通道由共享的单变量骨干独立处理;作者据此认为,模型可适配不同通道数,而不增加骨干规模。摘要未说明候选 patch 的采样规则、跨通道表征如何汇聚,以及预训练到下游分类的具体流程。 作者报告,在六个大规模基准(摘要标注 >20k 实例,具体规模口径尚待核对)及 28 个 UEA 多变量数据集上,C-Pred 的表征质量达到或超过现有先进方法,相对竞争基线的训练时间加速最高为 7.5 倍。在大规模基准上,作者报告通道独立编码相较通道混合编码提升平均 Accuracy 2.99 个百分点,平均 Accuracy 达到 84.36%。具体数据划分、基线配置、硬件与计时口径、消融及统计信息尚未验证,不能据此推断各数据集均有同等收益。 平台推测(待验证):其局部时序预测和共享单通道编码机制可能适用于 EEG 小数据预训练及通道数量变化场景,但原论文主要对象是通用多变量时间序列,不能将上述结果视为 BCI 证据。可复用部分是 patch 级邻接判别任务;需评估 EEG 的 patch 时长、通道汇聚及空间关系建模。低信噪比可能削弱邻接线索,通道独立处理也可能遗漏跨通道协同,跨被试分布变化则未必由该任务解决。一个可检验的小实验是:在固定 EEG 数据划分与训练预算下,对比通道独立与通道混合的 C-Pred,在 Cross-subject 下报告 Accuracy、训练耗时及减少通道后的性能变化。相关 EEG 工作尚未检索确认。
C-Pred 将自监督预训练简化为同一实例内的相邻 patch 识别,值得核对其训练效率与通道独立编码的收益,但其对 EEG 跨通道依赖的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net