跳到正文
OpenReview · Representation learning· Pranaya Jajoo; Harshit Sikchi; Siddhant Agarwal; Amy Zhang; Scott Niekum; Martha White·· 2025-07-02精选AI 评分74

正则化潜在动力学预测是行为基础模型的强基线

Regularized Latent Dynamics Prediction is a Strong Baseline For Behavioral Foundation Models

AI 导读

基于摘要分析。本文研究行为基础模型(Behavioral Foundation Models,BFMs)中的状态表征学习,检验复杂表征学习目标是否是实现 zero-shot RL 的必要条件。其核心方法是在自监督下一状态预测中加入正交归一正则化,以维持特征多样性。 作者指出,这类 BFM 产生近最优策略的能力受限于预先学习的状态特征:能够支持的奖励函数取决于这些特征所张成的空间。因此,状态特征的选择会影响对未知奖励或任务的适应能力。作者观察到,单独使用下一状态预测目标容易使状态特征相似性增加,进而缩小能够表示并支持最优策略的奖励函数范围;加入正交归一正则化旨在缓解这一问题。 作者报告,在其 zero-shot RL 评估中,这一简单组合能够达到或超过所比较的先进复杂表征学习方法。但摘要未提供具体环境、数据来源与规模、奖励任务划分、基线名称、指标或数值;正则项的具体形式、训练与推理流程、实验协议、消融及统计信息尚未验证,不能据此判断对其他任务的优势。 平台推测(待验证):若 EEG 数据包含可用于下一状态预测的连续序列,维持特征多样性的约束可能为缓解预测式自监督表征趋同提供可检验思路,但这不等于原论文已验证 EEG 或 BCI 效果。可复用的是预测目标与特征约束的组合,需改造的是 EEG 时序编码、通道处理及预测时间尺度;低信噪比下,多样性约束也可能保留噪声或被试差异,而非任务相关信息。一个小规模检验是在相同 EEG 编码器、数据划分和训练预算下,对比有无该正则项的下一状态预测,分别检查表征相似性与跨被试下游表现。相关 EEG 工作尚未检索确认。

阅读价值

该研究以自监督下一状态预测结合正交归一正则化,检验复杂表征学习目标对 zero-shot RL 是否必要,值得核对其特征多样性机制与基线对照,但摘要尚不足以判断结果的适用范围。

来源:OpenReview · Representation learning · openreview.net