跳到正文
OpenReview · State space models·· 28 天前精选AI 评分71

通过逐层调优利用隐藏状态几何结构强化推理

HIDDEN-STATE GEOMETRY FOR REASONING SHARPENING VIA LAYER-WISE TUNING

AI 导读

基于摘要分析。本文研究推理模型中正确答案与错误候选得分接近、但模型偏向错误候选的“小分差错误”,提出 Layer-Selected Geometry Repair,利用竞争答案提供的区别信息指导训练,目标是改善最终返回的答案,而不在推理时增加隐藏空间选择器。 方法包括:在留出的候选数据上选择隐藏层,从训练答案对构建固定的“正确减错误”方向,并将成对隐藏状态间隔训练与带锚定约束的答案学习目标结合。摘要未提供得分定义、支持边界的计算方式、方向构造细节或损失公式,不能据此进一步确定实现结构。 作者报告,在所检查的候选池中,正确与错误答案之间存在接近的竞争,且错误预测比正确预测更靠近支持边界;数学与医学任务的评估支持该训练流程,另有诊断分析考察适应、层选择与方向。具体模型、数据集、划分、基线、收益幅度、消融及统计信息尚未验证,因此尚不能判断改进的稳定性与适用范围。 平台推测(待验证):其可供 EEG 分类研究借鉴的假设,是利用正确类别与近分错误类别的表示差异进行定向间隔训练,而非直接迁移答案学习目标。原方法依赖可比较的候选得分、正确与错误训练对及用于选层的留出数据;若迁移至 EEG,需改造候选构造与训练目标,并核对方向能否跨被试或通道条件保持稳定。低信噪比和小数据可能使固定方向拟合偶然混淆。一个可证伪的小实验是在固定的 Cross-subject 划分下,对比同一 EEG 编码器的原训练目标与加入该间隔目标后的表现,仅用训练及验证数据构造方向和选层。该建议不是已证实的 BCI 效果,相关 EEG 工作尚未检索确认。

阅读价值

值得核对其利用正确答案与近分错误候选的隐藏状态差异进行定向训练、且不在推理时增加隐藏空间选择器的机制;具体收益及层选择协议尚未验证。

来源:OpenReview · State space models · openreview.net