潜在空间扰动改善强化学习中的视觉泛化
Latent Space Perturbations Improve Visual Generalization in Reinforcement Learning
基于摘要分析。本文研究强化学习(RL)中任务动力学与奖励不变、但背景、光照或物体外观变化时的视觉泛化,提出 Latent Space Perturbation(LSP),通过训练时扰动编码器的主要潜在方向提高分布外(OOD)表现,而不改变编码器或使用像素级增强。 机制上,作者受神经科学高效编码理论启发,分析固定视觉条件下训练的编码器。作者报告,其潜在表示主要位于低维空间,OOD 视觉变化主要引起训练潜在空间头部主成分方向上的均值与方差偏移,而非产生新的方向。作者在诊断环境 LSP-Env 中分别控制背景、干扰物与智能体外观变化,并在 Procgen 上验证这一观察。LSP 据此利用 PCA 确定主要潜在方向,在训练时沿这些方向注入按方差缩放的高斯噪声;具体主成分选择、噪声强度与更新方式尚未验证。 作者报告,在 LSP-Env、Procgen 和 RL-ViGen 的评估中,LSP 改善 OOD 表现且不损害分布内表现。摘要未提供量化收益、具体对照、数据划分或统计结果,实验协议、消融及统计信息尚未验证。阅读全文时应核对:主成分扰动相对普通潜在噪声的贡献,以及收益是否随视觉偏移类型和强度变化。 平台推测(待验证):若 EEG 域偏移也主要集中在编码器已有主方向,LSP 的 PCA 引导扰动可能为表示正则化提供假设,但原研究依赖视觉 RL 交互数据与奖励监督,不构成 EEG 或 BCI 有效性的证据。迁移时需重新确定 EEG 表示层、训练数据内的 PCA 估计与扰动尺度;低信噪比、小数据、跨被试及通道变化可能使主成分更多反映噪声或任务相关信号,扰动反而损害判别能力。可在固定跨被试划分中,仅用训练被试拟合 PCA,对比无扰动、普通高斯扰动与 LSP,检验其是否改善未见被试表现。已有 EEG 相关工作尚未检索确认。
值得核对其对视觉分布偏移在编码器主成分方向上表现为均值与方差变化的诊断,以及据此构造潜在空间扰动的依据;作者报告的泛化收益仍需结合完整评估协议与消融验证。
来源:OpenReview · State space models · openreview.net