跳到正文
OpenReview · State space models· Hyundong Cho; Andrea Madotto; Zhaojiang Lin; Khyathi Raghavi Chandu; Satwik Kottur; Jing Xu; Jonathan May; Chinnadhurai Sankar·· 2023-01-01精选AI 评分73

通过示例引导问答实现持续对话状态跟踪

Continual Dialogue State Tracking via Example-Guided Question Answering

AI 导读

该研究针对对话系统持续加入新服务时,继续训练可能导致旧服务性能下降的问题,将对话状态跟踪(DST)重构为一组细粒度的示例引导问答任务,以缩小服务间的任务差异并支持持续学习。基于摘要分析,研究对象是自然语言对话中的用户目标与状态估计,而非神经信号建模或 BCI。 核心机制是让模型结合问题、给定示例及当前对话抽取所需信息,减少对服务特定模式的记忆。检索器被训练为识别具有相似对话状态变化的轮次,为模型提供上下文示例;该方法进一步结合对话级记忆回放。摘要未提供问答构造细节、检索器训练目标、示例数量、回放策略或具体损失形式。 作者报告,一个具有 60M 参数的模型在利用检索所得上下文示例进行学习后获得显著提升;结合对话级记忆回放后,在 DST 持续学习指标上达到当时最优表现,且不依赖复杂正则化或参数扩展方法。摘要未给出具体数据集、服务引入顺序、数据划分、指标名称、分数和对照基线,因此无法量化提升,也不能判断检索、任务重构与回放的独立贡献。 复现时需核对新旧服务的评估协议、检索与回放样本的可用范围、记忆预算及各模块消融;实验协议、消融及统计信息尚未验证。其机制依赖自然语言问题、对话轮次及状态变化信息,当前材料未建立与 EEG/BCI 数据结构的具体对应关系,不能据此推断跨被试或跨会话效果;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其通过示例引导问答统一不同服务的任务形式,并结合按状态变化检索的上下文示例与记忆回放缓解持续学习遗忘的思路;具体收益及各模块贡献尚需全文验证。

来源:OpenReview · State space models · openreview.net