跳到正文
OpenReview · Representation learning· Hicham Azmani; Ann Nowe; Roxana Rădulescu·· 2026-06-03精选AI 评分73

从无奖励预训练到 Pareto 前沿:零样本多目标强化学习

From Reward-Free Pretraining to Pareto Fronts: Zero-Shot Multi-Objective Reinforcement Learning

AI 导读

基于摘要分析。本文研究多目标强化学习(MORL)中目标定义在训练后发生变化时,如何避免反复重训;提出将无奖励预训练与目标特定解集构建解耦的 late-binding 范式,利用单个 forward-backward(FB)智能体在推理阶段恢复不同目标权衡,无需重训或微调。 方法先在无奖励数据上训练 FB 智能体,再从其表征构建候选池;针对每个偏好向量,通过标量化 rollout 评估选择候选,随后评估所得策略,并保留非支配子集,形成经验 Pareto 前沿近似。这里的零样本不意味着完全无需评估交互:摘要明确包含推理阶段的 rollout 评估,但其交互预算、候选规模及计算成本尚未验证。摘要也未展开 FB 的具体训练目标与候选构建细节。 作者报告,在具有已知参考集或参考前沿的 Deep Sea Treasure 与 Fruit Tree Navigation 两个 MORL 基准中,单个预训练 FB 智能体可在多种环境变体和目标定义下恢复高质量的 Pareto 权衡,覆盖此前未见的布局及事后调整所选目标子集的情形。摘要未提供量化指标、具体对照结果或统计信息,因而尚不能判断前沿逼近质量、鲁棒性及相对重训方案的实际收益;实验协议、消融及统计信息尚未验证。 其直接研究对象是序贯决策与多目标决策支持,而非 EEG 表征学习或 BCI 解码。材料未给出面向神经信号的机制对应或验证结果,因此不将其表述为已验证的 BCI 方法;已有 EEG 相关工作尚未检索确认。复现时需核对无奖励数据的状态覆盖、目标变化的具体范围、未见布局的划分方式,以及推理阶段可使用的环境交互与奖励信息。

阅读价值

值得核对其如何利用同一 forward-backward 表征,在目标定义事后变化时仅通过推理阶段的候选评估构建经验 Pareto 前沿,尤其需要确认交互评估成本与前沿质量之间的权衡。

来源:OpenReview · Representation learning · openreview.net