跳到正文
OpenReview · State space models· Wenkai Chen; Sahithya Ravi; Vered Shwartz·· 2023-10-08精选AI 评分72

CASE:结合扩展答案空间的常识增强评分

CASE: Commonsense-Augmented Score with an Expanded Answer Space

AI 导读

基于摘要分析。本文研究多项选择常识问答中,直接使用 LM 概率衡量答案合理性时未区分词语重要性的问题,提出 CASE,通过词级动态加权与答案空间扩展改进候选答案评分。 核心机制是依据输入中词语之间的语义关系,为各词分配重要性权重,而非等权处理。作者认为,这既能降低不重要词语带来的噪声,也能向模型提供有助于回答问题的隐含常识。另一部分沿用既有工作的答案空间扩展思路,生成与原选项概念相近、但词汇表达不同的答案,以补充候选表达。摘要未说明语义关系的提取方式、权重计算公式、扩展答案的生成与筛选规则,以及最终分数如何聚合。 作者报告,动态加权优于基础 LM 评分;与答案空间扩展结合后,方法在 5 个常识基准上优于强基线。作者还报告两种策略具有互补性,并可能对较小 LMs 尤其有益。摘要未提供基准名称、模型规模、具体指标、数值或数据划分,因此不能量化提升幅度,也无法判断优势在不同任务与模型上的一致性;实验协议、消融及统计信息尚未验证。 该工作的主要研究对象是 NLP 常识问答,而非神经信号建模。现有材料未给出与 EEG/BCI 瓶颈的具体机制对应,因而不将其表述为 BCI 算法创新,也不据此提出信号解码迁移实验。复现前需取得完整评分定义、答案扩展流程、所用模型与基准配置,并核对扩展带来的计算开销。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 CASE 如何将词级语义关系加权与答案空间扩展结合,以及两者在较小 LMs 上的互补性;其证据限于常识问答,不能据此推断 EEG/BCI 有效性。

来源:OpenReview · State space models · openreview.net