通过各向同性高斯表征实现稳定的深度强化学习
Stable Deep Reinforcement Learning via Isotropic Gaussian Representations
该研究针对深度强化学习中学习目标与数据分布随时间变化引发的训练不稳定问题,提出用 Sketched Isotropic Gaussian Regularization 将训练中的表征塑造成各向同性高斯分布。基于摘要分析,主要贡献包括表征分布的理论动机与一种作者称计算开销较低的正则化方法。 机制上,作者提出:在非平稳目标下,各向同性高斯嵌入有利于线性读出稳定跟踪时变目标;在固定方差预算下,该分布具有最大熵,并促进各表征维度的均衡使用。摘要未展开这些性质成立所需的假设,也未说明正则项的具体形式、sketching 的实现方式及其与原强化学习目标的组合方法,尚不能据此还原算法。 作者报告,在多个领域的实验中,该方法改善了非平稳条件下的性能,并减少表征坍塌、神经元休眠与训练不稳定。摘要未列出任务、数据规模、对照基线、指标或数值;实验协议、消融及统计信息尚未验证,不能据此判断收益范围与复现成本。 平台推测(待验证):若 EEG 解码器采用可训练表征与线性读出,该正则化可能有助于缓解跨会话漂移时表征维度利用失衡的问题。不过,原研究面向强化学习的时变学习目标,不能直接等同于 EEG 的输入分布漂移。可复用的是表征分布约束,需改造的是 EEG 编码器接口、方差尺度及训练或更新协议;低信噪比、通道差异和小样本可能使该约束保留噪声,或压制有判别力的各向异性结构。一个可证伪的小实验是在固定 Cross-session 划分、标签可用范围与训练预算下,仅比较同一 EEG 解码器加入或不加入该正则化的表现,同时检查解码指标与表征退化是否同步改善。已有 EEG 相关工作尚未检索确认。
值得核对其各向同性高斯表征稳定线性读出跟踪时变目标的理论条件,以及低计算开销正则化的实现;这一机制为研究 EEG 非平稳性提供了待验证的表征约束思路,但摘要未提供 EEG/BCI 证据。
来源:OpenReview · Representation learning · openreview.net