跳到正文
OpenReview · Representation learning· Xiao Wang; Yang Lu; Wanchuan Yu; Yanwei Pang; Hanzi Wang·· 2024-01-01精选AI 评分72

基于多视图表征学习的小样本动作识别

Few-Shot Action Recognition via Multi-View Representation Learning

AI 导读

基于摘要分析。本文研究有限标注样本条件下的新动作类别识别,提出多视图表征学习网络 MRLN,通过联合建模视频内与视频间关系,提高小样本动作识别的特征判别能力;研究对象是视频动作识别,而非 EEG 或 BCI。 方法包含三个模块:空间感知聚合细化模块 SARM,以空间感知聚合和细化两个子模块探索帧级空间上下文;时间—通道增强模块 TCEM,分别提取时间感知与通道感知特征;跨视频关系模块 CVRM,使用自注意力建模视频之间的关系。此外,作者设计了以原型为中心的平均绝对误差损失,用于增强特征学习能力。摘要未提供该损失的具体公式、各模块的连接方式或训练与推理细节,不能据此确定各组件的独立贡献。 作者报告,在 5-way 1-shot 小样本动作识别设置下,MRLN 在 Kinetics、UCF101、HMDB51 和 SSv2 上的结果分别为 75.7%、86.9%、65.5% 和 45.9%,并称优于多种现有先进方法。摘要未明确这些百分比的指标名称,也未给出具体数据划分、对照方法数值和不确定性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其潜在迁移路径是以 EEG 试次替代视频样本,将试次内时序建模、通道特征增强和试次间关系建模用于小样本识别。该假设依赖有标签支持样本及可比较的试次表征;可考虑复用原型损失与关系建模思路,但帧级空间模块需改造成符合电极布局的表示,视频特征通道也不能直接等同于 EEG 电极通道。低信噪比、跨被试分布偏移、通道布局变化和小样本关系估计不稳定均可能使迁移失效。可在固定的 EEG 被试内划分及相同小样本协议下,以原型分类器为基线,单独加入试次间关系模块,比较 Accuracy 及多次抽样波动,检验该机制是否有增益。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其将视频内空间、时间与通道特征增强和跨视频关系建模结合的小样本表征学习机制,但其对 EEG 小样本识别的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net