Continual Memory:分离持续强化学习中的样本选择与表征
Continual Memory: Separating Selection and Representation in Continual Reinforcement Learning
基于摘要分析。本文研究持续强化学习中回放记忆应保留哪些状态、以及如何衡量状态相似性,提出 Continual Memory,将定义状态相似性的表征与决定存储状态的选择规则分开考察。其主要贡献是通过受控比较,区分这两类设计对遗忘和前向迁移的影响,而非提出已经验证的 EEG 或 BCI 方法。 方法与对照:作者在 Continual World 上固定策略、训练预算和回放损失,分别改变表征与选择规则。摘要涉及基于覆盖度、基于密度的选择,以及策略梯度的 merge and reduce 表征;具体构造、记忆容量和损失形式尚未验证。 作者报告,在所有受测表征下,基于覆盖度的选择均增加遗忘;基于密度的选择未出现可检测的遗忘增加,并在相同的 20 个随机种子上,比覆盖度选择的遗忘指标低 0.029。该差值是原指标尺度上的结果,不能解释为准确率提升或百分比变化,指标定义及统计检验仍需核对。 作者报告,固定选择规则后,策略梯度的 merge and reduce 表征取得 0.47 的前向迁移,对照为作者复现的 ClonEx-SAC 的 0.42,以及既往报告的 0.44;这一改善得到非配对分析支持,但伴随更多遗忘,不能据此认定整体性能全面提高。采用密度选择的 Continual Memory 达到 0.44 的前向迁移,作者称其同时保持了 ClonEx-SAC 的性能与记忆保持能力。作者将结论限定于所研究的固定表征及覆盖度选择等条件,不能泛化为选择与表征在所有设置下各自独立决定某一性能。 复现时需核对任务序列、记忆预算、遗忘与前向迁移的定义、配对与非配对统计及消融细节;这些信息尚未验证。材料未提供 EEG/BCI 实验或具体适配机制,已有 EEG 相关工作亦尚未检索确认,因此不据此推断 BCI 有效性。
该研究在固定策略、训练预算和回放损失的条件下分别考察记忆表征与样本选择,有助于核对持续强化学习中前向迁移与遗忘的权衡,但其统计支持范围与复现细节仍需查阅全文。
来源:OpenReview · Representation learning · openreview.net