跳到正文
OpenReview · State space models· Wei Pang; Ruixue Duan; Jinfu Yang; Ning Li·· 2024-01-01精选AI 评分72

用于 GuessWhich 猜图游戏的多模态对话状态跟踪

Multi-Modal Dialogue State Tracking for Playing GuessWhich Game

AI 导读

基于摘要分析。本文研究 GuessWhich 视觉对话游戏:Questioner Bot(QBot)通过向 Answer Bot(ABot)连续提问来定位隐藏图像。核心贡献是用隐藏图像的内部视觉表象构建多模态对话状态,使 QBot 能够在多轮交互中持续进行视觉相关推理。 作者指出,既有方法或者缺乏视觉信息,或者每轮仅采样一张真实图像作为解码上下文,难以充分支持视觉推理。所提方法将多组内部视觉表象表示与对话实体表示纳入对话状态;每轮利用该状态构建内部表示、生成问题,并在收到回答后更新对话状态及内部表示。摘要未说明这些表示的具体参数化方式、训练目标或更新算子,不能据此将其认定为特定的状态空间模型架构。 作者报告,在 VisDial v0.5、v0.9 和 v1.0 上,该方法在所评估的全部指标与数据集上超过此前方法。摘要未列出指标名称、具体数值、数据划分与对照配置,因此该领先性能声明尚不能独立核验;实验协议、消融及统计信息尚未验证。作者提供了代码与实验数据的仓库地址,但其内容及复现条件尚未核验。 这里的 mental imagery 指模型对隐藏图像的内部视觉表象,并非 EEG 运动想象任务。材料未提供神经信号实验或与 BCI 的具体机制对应,不据此推断其具有已验证的 EEG/BCI 应用价值。

阅读价值

值得核对其如何以持续更新的视觉表象与实体表示替代单张图像解码上下文,以及这种状态表示对提问和图像检索的实际贡献;摘要中的领先性能声明仍需结合全文协议验证。

来源:OpenReview · State space models · openreview.net