STATe-of-Thoughts:用于 Tree-of-Thoughts 的结构化动作模板
STATe-of-Thoughts: Structured Action Templates for Tree-of-Thoughts
基于摘要分析。本文研究大语言模型推理时计算(Inference-Time-Compute,ITC)中的候选多样性与推理过程可控性问题,提出 STATe-of-Thoughts(STATe),通过搜索高层推理动作而非仅依赖高温度采样生成分支,使文本生成过程更具可解释性。其主要研究对象是大语言模型的文本生成与推理搜索,并非 EEG 解码或 BCI。 机制上,controller 选择编码高层推理决策的动作,generator 在这些动作条件下生成推理步骤,evaluator 对候选进行评分以引导搜索。分支因此对应离散、可解释的文本干预,而非单纯的 token 级随机采样。摘要未提供具体动作模板、组件实现、评分方式或搜索预算。 作者报告,动作引导的文本干预能够影响模型生成,并比基于温度的采样产生更高的响应多样性;在论证生成案例中,显式动作序列包含对输出质量具有较强预测性的可解释特征。此外,作者报告可通过估计动作选择与性能之间的关联,识别尚未探索但有潜力的动作区域,并据此引导生成。摘要未给出数据集、模型、样本规模、多样性指标及量化结果;实验协议、消融及统计信息尚未验证,动作与质量的关联也不应直接解释为因果关系。 作者将适用范围定位于存在多种解法、且需要理解输出成功原因的任务。平台推测(待验证):若 BCI 辅助交互任务具有可明确列举的文本推理策略,该动作搜索框架或可用于组织与解释候选生成,但这不是神经信号解码性能的证据。现有材料不足以制定具体 EEG 迁移实验,相关 EEG 工作尚未检索确认。复现前需核对动作空间定义、评估器可靠性,以及与 Best-of-n、Tree-of-Thoughts 在相同计算预算下的比较协议。
值得关注其用可解释动作模板替代温度采样分支的搜索机制,以及通过动作选择与输出质量的关联引导后续搜索的思路;具体收益和向 BCI 场景迁移的适用性尚未验证。
来源:OpenReview · State space models · openreview.net