跳到正文
OpenReview · State space models· Wei Pang; Xiaojie Wang·· 2020-01-01精选AI 评分74

用于问题生成的视觉对话状态跟踪

Visual Dialogue State Tracking for Question Generation

AI 导读

基于摘要分析。本文研究 GuessWhat?! 视觉对话任务中的问题生成:提问者通过连续的 Yes/No 问题,在图像中定位回答者选定的对象。作者提出 visual dialogue state tracking(VDST)方法,显式跟踪候选对象及其表示,以改善随对话推进生成问题的质量。 核心机制:视觉对话状态由图像中对象的分布及对象表示共同构成;对象表示随对象分布的变化而更新。生成问题时,模型使用基于对象差异的注意力;获得回答后,通过比较问答对与对象来更新对象分布。其方法重点是把候选对象状态的动态更新与问题生成结合起来,而非仅依赖对话历史。摘要未给出分布更新的具体公式、训练损失或解码细节,不能据此将其认定为某类通用状态空间模型。 结果与证据边界:在 GuessWhat?! 数据集上,作者报告模型优于已有方法,并达到当时新的最优表现;相较此前最优方法,重复问题比例从超过 50% 降至 21.9%。这些数值对应上述视觉对话任务,具体数据划分、重复问题判定规则、对照实现及统计信息尚未验证。摘要未提供最终猜测成功率的具体数值,实验协议、消融及复现条件也尚未验证。 平台推测(待验证):若 BCI 应用涉及通过多轮二元反馈识别用户意图,候选对象分布可对应候选意图分布,对象差异注意力可作为选择下一次询问的参考机制;这是假设,不是本文已验证的 EEG/BCI 效果。可复用的是显式候选状态及反馈更新思路,需改造的是意图表示和对噪声反馈的更新机制。低信噪比、被试间差异或少量校准数据可能使错误反馈累积并导致候选状态过早收敛。一个可检验的小实验是在固定候选意图和反馈误差率下,与不显式跟踪候选状态的询问策略比较重复询问率、最终识别率及询问次数;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其以候选对象分布跟踪对话状态、以对象差异引导提问的机制,以及作者报告的重复提问减少结果,但具体评估协议及其对 BCI 交互的适用性尚未验证。

来源:OpenReview · State space models · openreview.net