面向世界动作模型的未来表征蒸馏
Future Representation Distillation for World Action Models
基于摘要分析。本文研究机器人控制中的世界动作模型(WAM):利用预训练视频扩散模型预测未来虽可提供控制所需知识,但迭代去噪成本高,视觉预测误差也可能影响动作预测。作者提出 DreamFree,通过表征蒸馏将预测知识转移到仅依赖当前观测的视觉编码器,使动作预测无需生成未来视频。 机制上,视觉编码器学习以当前观测预测冻结视频扩散模型的表征,随后训练动作模块,从编码器中提取与动作相关的信息。其核心区别是将未来预测知识用于表征学习,而不是在控制时显式生成未来视频。摘要未说明教师表征的具体位置、蒸馏目标构造、损失函数及各模块训练细节。 作者报告,在真实与仿真机器人任务中,DreamFree 的成功率高于所比较的先进 VLA 和 WAM,并在使用 14B 视频扩散骨干模型的条件下实现 11 Hz 实时闭环控制;具体任务、成功率、硬件与延迟统计口径尚未验证。作者还报告,更强的视频先验与额外视频数据可改善控制表现,且能利用新任务的视频示范学习,包括来自不同具身形态的视频,而无需这些新任务的动作标注。这不等同于整个训练过程均无需动作标注。 平台推测(待验证):可迁移的假设是,将较昂贵预测模型的知识蒸馏到当前信号编码器,可能降低 EEG 在线解码的推理开销。但原方法依赖视频时序先验及机器人动作学习,不能直接视为 EEG 方法。可复用的是冻结教师与表征蒸馏思路,需改造的是 EEG 时序编码、教师目标和任务输出;低信噪比、跨被试差异、通道变化及小数据可能使预测表征保留噪声而非任务信息。一个小规模可证伪实验是:固定同一 EEG 数据划分与解码器,对比有无未来表征蒸馏的学生编码器,同时检验任务指标与推理延迟。已有 EEG 相关工作尚未检索确认;原论文的实验协议、消融及统计信息尚未验证。
值得关注其将视频扩散模型的预测知识蒸馏到当前观测表征、绕过未来视频生成的控制机制,但机器人任务表现及其对 EEG/BCI 的适用性仍需分别核验。
来源:OpenReview · Representation learning · openreview.net