跳到正文
arXiv · 表征与预训练· Haoran Chen; Jingtian Ji; Samuel Wheeler; Kaylene Caswell Stocking; Matthew Walter·· 3 天前精选AI 评分77

CAP:面向词元化机器人策略的码本对齐预测

CAP: Codebook-Aligned Prediction for Tokenized Robot Policies

AI 导读

基于摘要分析。本文研究机器人动作词元化后,策略将 token 当作互不相关的类别索引、未利用 tokenizer 已学潜在结构的问题,提出 Codebook-Aligned Prediction(CAP):直接复用 tokenizer 的码向量作为策略的类别原型,同时保持 tokenizer 和策略骨干的其余部分不变。 核心机制是把动作离散化阶段学到的码本结构带入下游预测,而不是从头学习一个与码本无关的分类器。摘要未给出原型匹配的计算形式、损失函数或训练细节,因此不能进一步判断码向量是否更新、如何归一化,以及该方法与其他原型分类方法的具体区别。 作者报告,在四类量化器、三个仿真基准和两个真实机器人任务上,CAP 相比标准 token 分类头持续提高任务成功率;这些比较固定 tokenizer,因此 tokenizer 的重建质量保持不变。作者进一步报告,收益不能由更高的 token accuracy 或仅由策略预测头变化解释,并将其归因于码本所保留的跨 token 潜在结构:预测错误在动作空间中更温和,策略骨干学到的表征也得到改善。摘要未提供基准名称、成功率数值、数据划分及误差分析细节,实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 模型已将连续信号或潜在片段量化为离散 token,CAP 的可迁移点是复用码向量作为预测原型,以检验离散类别间的结构是否有助于表征学习。该假设依赖码本几何确实保留任务相关信息;机器人动作空间中的错误代价不等同于 EEG 分类错误。需改造 EEG tokenizer 与下游输出接口,并警惕低信噪比、跨被试和通道差异使码本主要编码噪声或个体特征,小数据也可能导致原型不稳定。一个小规模可证伪实验是:固定同一 EEG tokenizer、骨干及训练划分,对比独立分类头与码本原型头,在同一跨被试协议下分别检查 token accuracy 和下游任务指标,而不将两者混为一谈。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是其固定 tokenizer 的对照思路:作者报告复用码本结构可提升机器人任务成功率,而收益不能仅由 token accuracy 或预测头变化解释,为评估离散表征的下游价值提供了具体切入点。

来源:arXiv · 表征与预训练 · arxiv.org