视觉对话中的猜测状态跟踪
Guessing State Tracking for Visual Dialogue
基于摘要分析。本文研究 GuessWhat?! 类视觉对话中的 Guesser 视觉定位任务:根据 Questioner 与 Oracle 的多轮问答,在图像中定位 Oracle 所指的目标对象。其贡献是将仅在全部问答结束后进行一次猜测的方式,改为随对话推进更新对象概率分布的猜测状态跟踪。 核心机制:作者将猜测状态定义为图像中各对象上的分布,并据此提出两种训练监督。早期监督在较早的对话轮次向 Guesser 提供监督;增量监督为猜测状态引入单调性约束。摘要未给出状态更新方程、损失函数形式或单调性的具体定义,不能据此判断哪些概率量受到约束,也不能将该方法直接归为特定 State Space Model 架构。 结果与证据:作者报告,在 GuessWhat?! 数据集上,该模型优于此前模型,并声称达到新的最优水平;作者报告猜测成功率为 83.3%,接近摘要所列的人类准确率 84.4%。这两个数值分别对应原文的成功率与准确率,其统计口径是否一致尚未验证。数据划分、候选对象设置、对话轮数、对照基线、消融及统计信息尚未验证。 平台推测(待验证):可迁移的机制假设是,用逐步更新的候选目标分布表达累计证据,并在中间阶段施加监督;它可能对应序贯 BCI 决策中“何时形成可靠判断”的问题,而非直接提供 EEG 特征提取方法。原方法依赖图像候选对象和多轮问答监督;若用于 EEG,需要改造观测编码器,并将对象分布替换为任务目标分布。低信噪比、跨被试差异及小数据可能使早期监督放大不可靠证据;单调性约束也可能妨碍模型纠正先前误判。可检验的小实验是在同一 EEG 任务及固定划分下,对比仅末阶段监督、增加早期监督、再增加增量监督,检查相同观测时长下的 Accuracy 与概率校准。该实验仅为迁移假设,已有 EEG 相关工作尚未检索确认。
值得阅读其将最终对象猜测改为逐轮概率状态跟踪,并以早期监督和增量监督约束训练的机制;摘要中的性能优势仍需结合完整评估协议核对。
来源:OpenReview · State space models · openreview.net