跳到正文
OpenReview · State space models· Peng Cheng; Zhihao Wu; Jianxiong Li; Ziteng He; Haoran Xu; Wei Sun; Youfang Lin; Yunxin Liu; Xianyuan Zhan·· 2025-09-23精选AI 评分75

通过时间反演对称性约束的潜在状态拼接实现样本高效的离线强化学习

Sample Efficient Offline RL via T-symmetry Enforced Latent State-Stitching

AI 导读

基于摘要分析。该研究针对离线强化学习(Offline RL)依赖大量训练数据、且保守的数据相关正则化可能限制分布外(OOD)泛化的问题,提出 TELS:利用动力系统的时间反演对称性(T-symmetry)约束紧凑潜在空间,在其中进行状态拼接与策略优化。原论文的主要研究对象是离线控制,而非 EEG 解码或 BCI。 核心机制是引入受 T-symmetry 约束的逆动力学模型 TS-IDM,学习受约束的潜在状态表示;随后在潜在空间中训练 guide-policy,寻找使奖励最大化的下一状态,绕开许多离线 RL 方法采用的动作层面行为正则化;最后结合优化后的潜在下一状态,通过 TS-IDM 提取动作。摘要未给出对称性约束的数学形式、损失函数或状态拼接的具体实现,不能据此认定系统具有精确可逆性。 作者报告,在 D4RL benchmark tasks 和真实工业控制测试环境中,TELS 在多种小样本任务上取得优于现有离线 RL 方法的样本效率与 OOD 泛化表现。摘要未提供任务明细、样本规模、数据划分、对照方法或定量指标,实验协议、消融及统计信息尚未验证;复现前需核对对称性假设、数据覆盖范围及潜在状态间动作提取的可靠性。 平台推测(待验证):其潜在迁移对象是具有状态—动作—奖励离线轨迹的 BCI 闭环控制,而非直接替代 EEG 分类器。假设潜在状态能保留足够的控制信息,可复用潜在下一状态规划与逆动力学动作提取,但需改造神经信号状态编码、奖励定义和动作接口。EEG 低信噪比、被试与通道差异、小数据覆盖不足,以及人体反馈过程不满足时间反演假设,都可能使状态拼接失效。一个可证伪的小实验是在具有闭环控制日志的数据上,固定编码器、数据量和划分,对比完整 TELS、移除 T-symmetry 约束的版本与离线 RL 基线,检验留出轨迹上的控制回报及不可执行动作比例。已有 EEG/BCI 相关工作尚未检索确认。

阅读价值

值得核对 TELS 如何以时间反演对称性约束潜在表示、并通过逆动力学实现状态拼接;作者报告的小样本与 OOD 优势仍需结合全文中的数据划分、基线和消融验证。

来源:OpenReview · State space models · openreview.net