OpenReview · Representation learning· Seokhyun An; Hyounghun Kim·· 2023-09-22精选AI 评分70
PreCoT:问题表征增强大语言模型推理
PreCoT: Problem Representation Enhances Reasoning in Large Language Models
AI 导读
基于摘要分析。本文研究如何通过显式构建问题表征来增强大语言模型的推理,提出 Problem Representation Enhanced CoT(PreCoT)提示框架,将初始状态与目标状态的提取置于求解之前,而非仅改进推理步骤本身。 核心机制分为两个阶段:首先提取构成问题初始状态和目标状态的要素,形成结构化的问题表征;随后以该表征为依据开展求解。其思路借鉴认知心理学对人类问题解决的研究,与侧重问题分解、规划或解题过程的提示策略形成区别。摘要描述的是提示框架,具体提示模板、模型配置以及是否涉及额外训练尚未验证。 作者报告,在涵盖算术、常识与符号推理的多领域基准评估中,PreCoT 在 few-shot 和 zero-shot 两种设置下均在多数任务上优于 CoT;作者还报告,附加分析支持问题表征对推理的贡献。摘要未给出具体数据集、模型、分数、示例选择方式或推理成本,因此不能判断收益大小、跨模型稳定性及额外生成开销。实验协议、消融及统计信息尚未验证。 该工作的主要对象是大语言模型的文本推理,而非 EEG 信号建模或 BCI 解码。当前材料未提供问题表征机制与神经信号任务之间的具体对应关系,不据此推断其对 BCI 的有效性;已有 EEG 相关工作尚未检索确认。
阅读价值
值得阅读的是其将问题表征构建与求解过程显式分离的提示机制;作者报告其在多类推理任务中优于 CoT,但具体收益与评估协议尚待全文核对。
来源:OpenReview · Representation learning · openreview.net