跳到正文
OpenReview · Representation learning· Sanket Gandhi; Atul; Samanyu Mahajan; Vishal Sharma; Rushil Gupta; Arnab Kumar Mondal; Parag Singla·· 2024-01-01精选AI 评分76

通过 Transformers 学习面向视觉动力学预测的对象中心模型解耦表示

Learning Disentangled Representation in Object-Centric Models for Visual Dynamics Prediction via Transformers

AI 导读

基于摘要分析。该研究面向视频中的视觉动力学预测,探索在对象中心表示内部进一步学习解耦属性,能否提高下一状态预测准确性及对未见属性组合的泛化能力。其核心贡献是将对象表示拆分为多个 block,再通过 Transformers 建模这些 block 的动态关系。 机制上,每个对象由多个 block 构成,每个 block 表示为若干可学习概念向量的线性组合,并在学习过程中迭代细化。模型以类似 Slot Attention 发现 slot 的方式,对对象掩码进行注意力操作,无监督地发现 block;随后在这些 block 上执行 Transformer 自注意力,预测下一状态。摘要称该方法不预设对象具有哪些具体属性,但对象掩码的获取方式、解耦约束、训练损失与推理流程尚未验证。 作者报告,在若干二维及三维基准数据集上,该架构能够发现具有语义意义的 block,相比所比较的先进对象中心模型提高动力学预测准确性,并在训练时未见过特定属性组合的 OOD 设置下表现更好。摘要未提供数据集名称、划分细节、指标、数值及统计检验,因而无法判断收益大小,也不能将其推广为所有分布偏移场景下的优势。实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的机制假设是,将表示拆成可组合的潜在因素可能有助于应对 EEG 中因素组合变化;但原方法依赖视频对象及对象掩码结构,不能直接将对象或 block 对应为脑源或认知成分。若评估该假设,需要重建 EEG 的分组与掩码机制,并核对低信噪比、通道混合、跨被试差异及小数据条件下的表示可辨识性。可先在因素已知的合成多通道信号上,以保留部分因素组合作测试的协议,对照相同容量的非解耦预测模型,检验是否改善未见组合预测,而非仅改善重建。该实验不构成已有 EEG/BCI 效果的证据;相关 EEG 工作尚未检索确认。

阅读价值

值得核对其以可学习概念向量构造对象内部解耦 block 的机制,以及未见属性组合下的 OOD 评估能否支持组合泛化结论;摘要尚不足以确认其对 EEG/BCI 的适用性。

来源:OpenReview · Representation learning · openreview.net