跳到正文
OpenReview · Representation learning· Aleksandar Todorov; Matthia Sabatelli·· 15 天前精选AI 评分75

在低维子空间中学习:用于强化学习的正交瓶颈

Learning in Low-Dimensional Subspaces: Orthogonal Bottlenecks for Reinforcement Learning

AI 导读

基于摘要分析。该研究关注强化学习(RL)中高维神经表征与任务相关价值、策略结构可能低维之间的矛盾,提出在编码器特征上插入固定正交归一投影,将表征约束到低维子空间。该机制不要求辅助目标、预训练或修改底层 RL 算法。 理论方面,作者在“线性可实现性”假设下证明:当瓶颈维度超过特征空间中最优价值函数的内在秩时,瓶颈保留表达能力,且诱导的梯度动力学在等价低维参数化意义下保持不变。这是带假设的结论,不能直接推广到任意非线性价值函数或任意投影设置;投影构造、假设范围及证明细节尚未验证。 实验方面,作者报告,在单任务与多任务基准中,当瓶颈维度超过一个较小、依任务而定的阈值后,性能可持平或优于基线;多种情形下价值表征可压缩到极低维而不损失性能,最低充分维度与环境复杂度的关系比与编码器宽度的关系更强。作者还报告正交瓶颈可稳定特征范数,并与更高的有效秩相关。摘要未提供基准名称、具体维度、指标数值或训练预算,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若基于 EEG 的闭环 RL 任务中,价值相关信息确实集中于低维子空间,该瓶颈可能用于限制编码器输出维度;可复用固定投影模块,但需改造 EEG 编码器接口并验证价值函数的低维假设。其原始证据依赖 RL 交互数据,不能等同于 EEG 分类中的有效性。低信噪比、通道变化及跨被试分布偏移可能使固定投影丢失微弱任务信息,小数据下维度阈值也可能不稳定。一个可检验的小实验是在相同 EEG 闭环 RL 任务、数据划分及交互预算下,对比无瓶颈与不同维度的固定正交瓶颈,观察回报及跨随机种子稳定性是否保持。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对固定正交瓶颈的表达能力保证及其维度阈值实验,尤其是理论假设能否解释不同环境中的压缩效果;其 EEG/BCI 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net