跳到正文
OpenReview · State space models· Ziqian Zhang; Bohan Yang; Lihe Li; Yuqi Bian; Ruiqi Xue; Feng Chen; Yi-Chen Li; Lei Yuan; Yang Yu·· 2025-05-01精选AI 评分74

在状态可演变环境中学习复用策略

Learning to Reuse Policies in State Evolvable Environments

AI 导读

基于摘要分析。本文研究强化学习策略部署后,因传感器维护或新增传感器而导致状态特征变化、原策略性能下降的问题,将其形式化为 state evolvable reinforcement learning(SERL)。作者提出 Lapse,目标是在避免高成本探索的情况下,利用旧策略及其行为经验适应新的状态空间;主要研究对象是传感器状态特征演变下的强化学习,而非 EEG 解码。 Lapse 包含两条复用路径:对于传感器消失,通过学习状态重建模型并与具有鲁棒性的旧策略组合,直接复用旧策略;对于新增传感器,利用旧策略的行为经验开展离线学习,训练能够利用新传感器的适应性策略。随后通过 automatic ensemble weight adjustment 自动调整集成权重,聚合两类策略。摘要未说明状态重建目标、离线学习算法、权重调整依据或旧策略鲁棒性的获得方式。 作者报告,理论分析支持鲁棒策略复用可缓解状态演变与重建带来的不确定性和误差;在基准环境中,Lapse 的性能约为最强基线的 2 倍。但摘要未给出环境名称、性能指标、状态演变配置、基线身份及统计信息,因此该倍数不能解释为 Accuracy 提升,也不能用于跨协议比较。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若闭环 BCI 使用强化学习策略,且 EEG 通道变化确实改变其输入状态特征,这种“重建旧输入以复用策略、再以离线经验适应新输入”的机制可能提供参考。可复用的是策略复用与集成思路;状态重建和离线数据处理需适配 EEG 的通道结构与时序特性。低信噪比、跨被试差异和小数据可能使重建失真,旧经验也未必覆盖新状态。一个可检验的小实验是在固定被试和会话划分下模拟通道丢失,对比旧策略直接使用与加入状态重建后的任务回报。该假设仅适用于具有明确强化学习任务的设置,不能据此声称 EEG/BCI 有效;已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是 Lapse 将传感器消失时的旧策略复用与新增传感器后的离线策略适应分开处理,并通过自动集成权重调整聚合两者;其性能增益及对 EEG/BCI 的适用性仍需核验。

来源:OpenReview · State space models · openreview.net