跳到正文
OpenReview · State space models· Chonghe Jiang; Ao Qu; Siyuan LIU; Ruoyun Ma; Zijian Zhou; Dingyi Zhuang; Baichuan Mo; Jinhua Zhao; Paul Pu Liang·· 20 天前精选AI 评分76

在思维空间中演化:测试时训练小模型以获得更优发现

Evolving in Thought Space: Training a Small Model at Test Time Unlocks Better Discoveries

AI 导读

基于摘要分析。本文研究开放式科学发现中反复生成、执行和验证候选解的成本与信用分配问题,提出 Guidance-TTT:在测试时仅训练小型 guidance model,使其提出高层策略修改,由冻结的 execution model 将修改实现为完整可执行解。 核心机制是从已发现的解中选择有潜力的候选,生成策略修改,再执行、验证,并以自适应组相对强化学习目标更新指导模型。相较于直接更新负责生成完整解的 LLM,这种职责分离将学习对象集中于较短的策略决策,同时保留较强执行模型的实现能力。摘要未提供损失公式、模型规模、候选选择规则及验证预算,相关实现细节尚未验证。 作者报告,在无网络访问条件下,该方法覆盖 Polyomino Packing 组合优化、AHC058 启发式编程、Lasso 机器学习和 TriMul GPU kernel 优化四类任务,所得解优于先前工作报告的最佳解,并与公开在线排行榜的先进结果保持竞争力。摘要未给出具体分数、对照模型及资源开销,因此无法量化性能增益或训练成本节省;实验协议、消融及统计信息尚未验证。摘要提供了代码地址,但代码内容与复现条件尚未核验。 平台推测(待验证):该机制可能适用于具有可执行候选方案和可靠验证反馈的 EEG 分析流程搜索,而非直接构成 EEG 解码模型。可复用的是“策略提出—冻结执行—验证反馈”循环;需改造的是候选方案表示、EEG 预处理约束与验证器。依赖反复评估的搜索在低信噪比、小样本及跨被试条件下可能追逐验证噪声或过拟合固定验证集。一个可检验的小实验是,在固定数据划分和相同评估预算下,比较 Guidance-TTT 与不更新指导模型的搜索,仅用训练与验证数据反馈,最终在独立留出被试上检验收益。原领域结果不等于 BCI 有效性,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是将测试时学习集中于小型策略指导模型、冻结大型执行模型的职责分离机制;其搜索收益、资源节省及向 EEG 研究流程迁移的有效性仍需核对完整实验。

来源:OpenReview · State space models · openreview.net