跳到正文
OpenReview · Representation learning· Lixuan Zhang; Meina Kan; Shiguang Shan; Xilin Chen·· 2025-01-01精选AI 评分74

PreLAR:基于可学习动作表征的世界模型预训练

PreLAR: World Model Pre-training with Learnable Action Representation

AI 导读

基于摘要分析。PreLAR 研究基于模型的强化学习中的世界模型预训练:从无动作标注视频学习环境动态,同时缩小无动作条件预训练与动作条件下游训练之间的差异。其主要研究对象是视觉控制,并非 EEG 解码或 BCI。 方法上,PreLAR 将相邻两个时间步的观测编码为隐式动作表征,使世界模型在预训练阶段即可进行动作条件建模;通过 action-state consistency loss 对该表征进行自监督优化,旨在使其更接近真实动作。微调时,模型将真实动作编码为动作表征,用于下游任务的整体世界模型训练。与摘要所述 APV 等无动作条件视频预测预训练方法相比,核心区别是将可学习动作条件引入预训练,而不只是学习观测序列的预测。损失的具体形式及动作表征的对齐方式尚未验证。 作者报告,在 Meta-world 仿真环境的多种视觉控制任务中,PreLAR 提高了世界模型学习的样本效率。摘要未提供具体任务列表、交互预算、对照配置、数值指标或统计信息,因此尚不能判断改善幅度及适用边界。实验协议、消融及统计信息尚未验证;摘要提供了代码仓库,但实现与复现条件尚未核验。 平台推测(待验证):若用于具有连续观测、明确控制动作及环境反馈的闭环 BCI,可检验其隐式动作预训练机制能否减少下游交互需求;这不等同于其已具备 EEG 解码能力。可复用的是动作条件动态建模思路,需改造的是 EEG 观测编码器及动作与反馈的时间对齐。相邻 EEG 的变化可能主要来自噪声、伪迹或被试与会话差异,而非控制动作,小数据也可能导致隐式动作表征不稳定。一个可证伪的小实验是在固定被试内划分、相同预训练数据与微调交互预算下,对比隐式动作条件预训练和无动作条件预训练,评估闭环任务表现随交互量的变化。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其以相邻观测构造隐式动作、缓解无动作视频预训练与动作条件世界模型之间差异的机制,但摘要未提供量化结果,其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net