通过联合表征学习与在线聚类实现无监督动作分段
Unsupervised Action Segmentation by Joint Representation Learning and Online Clustering
基于摘要分析。本文研究视频中的无监督动作分段,以视频帧聚类为前置任务,同时进行表征学习与在线聚类,区别于先学习表征、再聚类的顺序式流程。其核心贡献是在用于生成聚类伪标签的最优传输模块中加入时间正则化,以保留动作的时间顺序。 机制与计算方式:时间最优传输模块利用视频时序信息约束聚类分配,并支持学习用于动作分段的表征。与需要先存储整个数据集特征、再进行离线聚类的方法不同,该方法逐个 mini-batch 处理数据。这里的“在线”指批次级聚类处理,摘要不足以确认其是否支持严格因果的实时分段;正则项形式、联合训练目标及批次构造方式尚未验证。 评估与证据:作者报告,在三个公共数据集 50-Salads、YouTube Instructions、Breakfast,以及其 Desktop Assembly 数据集上,方法表现与既有方法相当或更好,同时所需内存更少。摘要未提供具体指标、数值、数据划分或内存测量条件,不能据此量化提升或比较不同协议。作者表示代码和数据集已在其研究网站提供,但实现与复现条件尚未核验;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是,时间正则化的伪标签分配或可用于具有重复阶段与相对稳定顺序的连续 EEG 分段,缓解无标签表征学习中聚类结果忽略时序结构的问题。可复用的是最优传输分配与联合聚类思路,需改造视频帧编码器、EEG 窗口定义及时间约束。原方法依赖视频帧序列及动作顺序信息,摘要未说明监督边界与训练规模;EEG 的低信噪比、跨被试差异、通道变化、小样本和阶段顺序不稳定均可能使伪标签失真。可检验的小实验是在固定 EEG 编码器、数据划分和聚类数的条件下,对比有无时间正则化的分段结果,并检查乱序输入是否削弱收益。以上并非已证实的 EEG/BCI 效果,已有 EEG 相关工作尚未检索确认。
值得核对其时间正则化最优传输如何支持表征学习与在线聚类的联合优化,以及相较离线聚类的内存收益;对 EEG 时序分段的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net