基于长短期状态预测 Transformer 的群体活动表征学习
Group Activity Representation Learning With Long-Short States Predictive Transformer
基于摘要分析。本文研究群体活动的自监督表征学习,提出 long-short state predictive Transformer(LSSPT),利用长短期历史状态预测未来群体状态,以学习群体活动中的时空特征,减少对人工标注标签的依赖。 机制上,编码器对观测中的多样化时空状态进行表征;解码器同时关注短期空间上下文与长期历史状态演化,预测未来群体状态。作者还将预测状态的可区分性与一致性纳入联合学习机制,以获得更可靠的状态转移表征。摘要未给出具体损失形式、状态构造方式、预测跨度及训练规模,这些内容尚未验证。 作者报告,在 Volleyball、Collective Activity 和 VolleyTactic 数据集的下游任务中,所学表征优于既有自监督学习方法,并称达到当时最优表现。摘要未提供具体任务、指标数值、数据划分及对照方法,实验协议、消融及统计信息尚未验证,因此无法判断提升幅度及各模块的独立贡献。 平台推测(待验证):若 EEG 任务包含可预测的短期空间关系与长期状态演化,长短期联合预测可能为自监督表征提供训练信号,但原研究的群体活动状态不等同于 EEG 神经状态。迁移需重新定义通道或脑区状态、空间关系及时间尺度;可复用的是编码—预测框架与可区分性、一致性约束的思路。低信噪比、跨被试差异、通道布局变化及小数据可能使模型学习伪迹或被试身份,而非任务相关动态。可在固定 Cross-subject 划分与相同训练预算下,比较短期预测和长短期联合预测,并通过打乱长期历史检验收益是否确实依赖长期信息。已有 EEG 相关工作尚未检索确认。
值得阅读的是其结合长短期状态预测与状态可区分性、一致性的自监督表征机制,但摘要不足以核对性能优势,也不能据此认定其适用于 EEG。
来源:OpenReview · Representation learning · openreview.net