跳到正文
OpenReview · Representation learning· Ali Saheb Pasand; Johan Obando-Ceron; Aaron Courville; Pouya Bashivan; Pablo Samuel Castro·· 2026-05-01精选AI 评分77

通过各向同性高斯表征实现稳定的深度强化学习

Stable Deep Reinforcement Learning via Isotropic Gaussian Representations

AI 导读

基于摘要分析。本文研究深度强化学习中学习目标与数据分布随时间变化所引发的训练不稳定,提出 Sketched Isotropic Gaussian Regularization,在训练期间将表征塑造成各向同性高斯分布,以改善非平稳条件下的适应与稳定性。 机制方面,作者提出:在非平稳目标下,各向同性高斯嵌入有利于线性读出稳定跟踪时变目标;在固定方差预算下具有最大熵;并鼓励均衡使用各表征维度。摘要未给出这些理论结论的具体假设、界限与适用范围,也未说明正则项的形式、sketching 的实现或其与强化学习训练目标的组合方式,需结合全文核对。 作者报告,在多个领域的非平稳实验中,该方法改善了性能,并减少表征坍塌、神经元休眠与训练不稳定;作者同时将其描述为简单且计算成本较低。摘要未提供环境名称、对照方法、指标或具体数值,实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是,表征维度失衡可能加剧 EEG 在线解码在分布漂移下的不稳定,因而可尝试将该正则项接入 EEG 编码器;但强化学习的目标漂移不等同于跨会话或跨被试的 EEG 变化。需要改造输入编码与训练流程,并核对理论是否依赖线性读出及特定目标变化条件。低信噪比、通道差异与小数据可能使高斯分布约束抑制有效判别结构。一个小规模可证伪实验是在固定跨会话 EEG 划分、相同编码器和在线更新预算下,对比有无该正则项的解码指标与表征维度利用情况;若表征更均衡而解码表现下降,则不支持该迁移假设。相关 EEG 工作尚未检索确认。

阅读价值

值得核对各向同性高斯表征对时变目标线性读出的稳定性保证及其正则化实现,但其对 EEG 非平稳性的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net