跳到正文
OpenReview · State space models· Wei Pang; Ruixue Duan; Jinfu Yang; Ning Li·· 2023-01-01精选AI 评分71

用于 GuessWhich 游戏的多模态对话状态跟踪

Multi-modal Dialogue State Tracking for Playing GuessWhich Game

AI 导读

基于摘要分析。本文研究 GuessWhich 视觉对话游戏:Questioner Bot(QBot)通过向 Answer Bot(ABot)连续提问来定位隐藏图像。核心贡献是让 QBot 维护隐藏图像的内部心象表征,并通过多模态对话状态跟踪支持视觉相关推理、问题生成与状态更新。 作者指出,既有方法或缺乏视觉信息,或每轮仅以一张采样的真实图像作为解码上下文,难以充分支持视觉推理。所提方法将对话状态组织为一组心象表征及对话实体表征;每轮利用该状态构建内部表示并生成问题,收到回答后再更新对话状态与内部表示。这里的“心象”指模型对未公开图像的内部表征,并非对人类脑活动的测量;摘要也不足以将该方法认定为通常意义上的 State Space Model。 作者报告,在 VisDial v0.5、v0.9 和 v1.0 上,所提模型在全部评估指标和数据集上均优于此前最先进模型。摘要未给出具体指标名称、数值、数据划分或对照模型,因此暂不能核对提升幅度及比较条件。状态表征的具体构造、训练目标、视觉特征来源、实验协议、消融及统计信息尚未验证。 论文的主要对象是多轮视觉对话与图像猜测,而非 EEG 解码或 BCI。现有材料未提供与神经信号处理的具体机制对应,不据此提出 BCI 迁移效果或复现实验建议;相关 EEG 工作尚未检索确认。

阅读价值

值得关注其以多模态对话状态维护隐藏图像表征、驱动提问与检索的机制,但作者报告的领先结果仍需结合完整评估协议和消融核验,不能据此推断 EEG 或 BCI 有效性。

来源:OpenReview · State space models · openreview.net