跳到正文
OpenReview · State space models· Tao Feng; Zijie Lei; Jiaxuan You·· 2025-06-22精选AI 评分77

IRanker:迈向排序基础模型

IRanker: Towards Ranking Foundation Model

AI 导读

基于摘要分析。该研究面向推荐、LLM 路由和段落排序等任务,提出结合强化学习(RL)与迭代解码的排序基础模型框架 IRanker,旨在用单一模型替代针对不同排序任务分别设计的模型。 核心机制是将整体排序分解为逐步从候选池中淘汰最差候选的迭代过程。作者认为,这能缩小输出的组合空间,并在 RL 训练中更有效地利用有限上下文长度。摘要将排序监督标签不明确列为主要挑战,但未披露奖励构造、监督来源、损失形式、候选表示或具体训练流程,因此尚不能判断这些设计如何共同支撑统一排序能力。 作者报告,在覆盖推荐、路由和段落排序三类场景的九个数据集上,单一 IRanker-3B 在若干数据集上优于相近规模模型,并在部分数据集上超过更大模型;具体数据集名称、指标和基线尚未验证,不能据此独立确认其最先进水平。作者还报告,RL 设计有效,迭代机制在不同 LLM 规模下具有稳健性,但相应消融与统计信息尚未验证。 在域内零样本排序实验中,作者报告 IRanker-3B 相较基础 LLM 至少提升 5%;在域外通用 LLM 任务 GSM8K、IFEval 和 MathQA 上,作者报告至少提升 9%。摘要未说明这些增益对应的具体指标,以及属于相对百分比还是百分点,不能直接横向比较。作者另称,训练时生成的思考内容可进一步改善 LLM 的零样本表现,其利用方式与评估条件尚未验证。 平台推测(待验证):逐步淘汰机制可能用于 EEG/BCI 中具有明确候选集合的解码器选择或候选结果重排,而非直接替代神经信号建模。可复用的是候选淘汰流程,需改造候选表示、质量监督和奖励;低信噪比、跨被试偏移及小数据条件可能导致早期误淘汰,且迭代推理的延迟需评估。一个可证伪的小实验是在固定 EEG 特征与候选解码器集合、预先确定跨被试划分的条件下,比较迭代淘汰与一次性排序的最终选择准确性及推理耗时。原领域结果不构成 BCI 有效性的证据,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其逐步淘汰候选的排序机制及 RL 训练设计能否支持跨任务复用,但摘要中的性能增益口径与零样本评估协议尚未验证。

来源:OpenReview · State space models · openreview.net