跳到正文
OpenReview · Representation learning· Peng Jin; Jinfa Huang; Pengfei Xiong; Shangxuan Tian; Chang Liu; Xiangyang Ji; Li Yuan; Jie Chen·· 2023-01-01精选AI 评分76

将视频与文本视为博弈参与者:用于跨模态表征学习的分层 Banzhaf 交互

Video-Text as Game Players: Hierarchical Banzhaf Interaction for Cross-Modal Representation Learning

AI 导读

基于摘要分析。本文研究视频—语言表征学习中,预定义视频—文本配对的全局对比学习难以刻画细粒度语义交互的问题,提出 Hierarchical Banzhaf Interaction(HBI),以多变量合作博弈衡量视频帧与文本词之间的潜在对应关系。 核心机制是将视频帧与文本词视为博弈参与者,用 Banzhaf Interaction 描述不同粒度、组合及强度不确定的跨模态交互。为提高计算效率,方法对原始视频帧和文本词进行聚类,在合并后的 token 之间计算交互;通过堆叠 token 合并模块,形成不同语义层级的合作博弈。相较于摘要所述的全局配对式对比学习,其关注点在于显式建模细粒度对应及层级组合,而非仅比较整段视频与整段文本。 作者报告,该方法在常用文本—视频检索及视频问答基准上取得较优表现,并可用于可视化跨模态交互。摘要未提供具体数据集、划分、对照配置或指标数值,因此无法量化收益;Banzhaf Interaction 的计算或近似方式、训练目标、聚类策略、计算成本、消融及统计信息尚未验证。交互可视化也不等同于已验证的因果解释。 平台推测(待验证):若存在时间对齐的 EEG—文本配对监督,可假设将 EEG 时间窗映射为 token,复用层级合并与交互估计机制,以探索局部神经信号与语义单元的对应;信号编码器、时间对齐及合并规则需要改造。低信噪比、跨被试差异、通道布局变化和小样本可能使聚类及交互估计不稳定。可在固定编码器与相同跨被试划分下,小规模比较全局对比基线与加入 HBI 的配对检索表现,并以打乱时间对应检验收益是否依赖真实对齐。这只是迁移假设,原文结果并非 EEG 或 BCI 有效性的证据;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其以 Banzhaf Interaction 显式衡量帧—词对应、通过 token 合并构建多层语义交互的机制,但检索与问答收益及解释性仍需结合全文实验核对。

来源:OpenReview · Representation learning · openreview.net