通过基于双模拟度量的聚类实现抗干扰视觉强化学习的鲁棒表征学习
Robust Representation Learning by Clustering with Bisimulation Metrics for Visual Reinforcement Learning with Distractions
基于摘要分析。本文研究从像素输入学习强化学习表征时,背景、视角等任务无关变化造成的脆弱性,提出 Clustering with Bisimulation Metrics(CBM),通过基于行为相似性的潜在空间聚类保留任务相关信息、抑制视觉干扰。 CBM 交替执行两个步骤:先依据观测与已学习原型之间的双模拟距离分配簇,再根据当前簇分配学习原型。双模拟度量用于量化观测之间的行为相似性,使聚类不只依赖表面视觉特征;同时,方法鼓励同簇表征保持一致,以过滤任务无关信息。其核心区别是将任务相关的距离度量引入聚类式表征学习,而非仅按视觉相似性组织观测。具体距离估计、损失形式及其与强化学习训练的耦合方式尚未验证。 作者报告,在单一干扰和多种干扰同时存在的视觉强化学习设置中,CBM 提高了所测试视觉强化学习算法的样本效率,并达到作者所称的最先进性能。摘要未提供具体环境、算法名称、数据规模或指标数值,实验协议、消融及统计信息尚未验证。摘要给出了代码仓库,但实现与复现条件尚未核验。 平台推测(待验证):若 EEG 闭环控制具有动作、奖励和状态转移记录,可检验一种假设:行为相似性聚类能否减少与控制目标无关的信号变化。可复用的是原型聚类与簇内一致性机制,需改造信号编码器及行为距离估计;仅有静态 EEG 分类标签并不足以直接复用该强化学习设定。低信噪比、跨被试或通道差异,以及小样本下不稳定的行为距离,都可能导致错误合并具有控制意义的状态。小规模实验可在同一闭环 EEG 数据划分下,对比基础编码器、普通潜在空间聚类与 CBM 式聚类,在受控噪声扰动前后检验控制表现与任务信息保留。已有 EEG 相关工作尚未检索确认。
CBM 以行为相似性而非单纯视觉相似性组织潜在表征,为理解视觉强化学习中的任务相关信息保留与干扰抑制提供了具体机制;其对 EEG/BCI 的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net