跳到正文
OpenReview · Representation learning· Anxhelo Diko; Danilo Avola; Bardh Prenkaj; Federico Fontana; Luigi Cinque·· 2024-01-01精选AI 评分76

面向动作预判的语义引导表征学习

Semantically Guided Representation Learning For Action Anticipation

AI 导读

基于摘要分析。本文研究从部分观测事件序列预测未来动作的动作预判任务,提出 Semantically Guided Representation Learning(S-GEAR),通过视觉动作原型与语言模型提供的动作关系,学习具有语义关联结构的动作表征,以应对未来不确定性及动作间关联推理的困难。 核心机制是学习视觉动作原型,并利用语言模型组织这些原型之间的关系,使表征反映典型动作模式与上下文共现。相较于主要改善视觉与时间信息外推的方法,本文将重点放在动作之间的语义互联性。摘要未提供语言模型选择、原型构建方式、关系约束或损失函数细节,具体训练与推理流程尚未验证。 作者报告,在四个动作预判基准上,相较既有工作,Epic-Kitchen 55、EGTEA Gaze+ 和 50 Salads 的 Top-1 Accuracy 分别提高 3.5、2.7 和 3.5 个百分点,Epic-Kitchens 100 的 Top-5 Recall 提高 0.8 个百分点。上述提升对应不同数据集及指标,不能直接横向比较;具体数据划分、观测窗口、预测时距、对照基线、消融及统计信息尚未验证。作者还报告,S-GEAR 能将语言中的动作几何关联迁移至视觉原型,但其验证方式需查阅全文。 平台推测(待验证):若 EEG 任务中的动作类别确有可用的语义或序列关系,原型关系约束可能为低信噪比条件下的动作表征提供辅助先验。这一假设依赖可定义的类别原型、动作标签或上下文关系,不能将日常视觉动作的语义直接等同于运动想象(MI)的神经可分性。可复用的是原型与关系约束思路,需改造的是 EEG 编码器及语义对齐方式;跨被试差异、通道配置变化和小样本原型不稳定均可能使语义先验失效。一个可证伪的小实验是在固定 Cross-subject MI 划分下,对比无关系约束、真实语义关系与随机打乱关系,并保持编码器及训练预算一致,检验收益是否确实来自关系结构。相关 EEG 工作尚未检索确认。

阅读价值

值得核对 S-GEAR 如何将语言中的动作关系迁移到视觉动作原型,以及这种语义结构是否能独立于视觉时序建模带来收益;其 EEG/BCI 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net