跳到正文
arXiv · 泛化与分布偏移· Rhythm Syed; Jean Mercat; Sedrick Keh; Kushal Arora; Paarth Shah; Aykut Onol; Mengchao Zhang; Tony Dear·· 7 天前精选AI 评分79

SUAVE:通过掩码扩散统一视频与动作模型

SUAVE: Unified Video-Action Models via Masked Diffusion

AI 导读

基于摘要分析。该研究针对机器人模型中未来观测预测与动作决策分离的问题,提出 SUAVE(Single vocabulary Unified Action-Video modEl):将语言、视频和动作表示为共享序列中的离散 token,以掩码扩散 Transformer 在语言条件下生成视频与动作,使同一网络能够承担世界模型、机器人策略或联合视频—动作模型的功能。 核心机制是通过推理时选择不同的掩码位置切换任务,而非分别构建视频预测器与动作策略。对于无动作标注的视频,作者将动作位置填入 mask token,并排除这些位置的损失,以支持无动作标注的联合训练。摘要将其与逐 token 自回归解码,以及连续视频潜空间搭配辅助动作头的统一模型作了机制层面的区分;离散编码方式、词表构成、损失细节和掩码调度尚未验证。 作者报告,在仿真与真实机器人静态、动态操作任务中,单个 SUAVE 模型可预测长时域视频并作为策略执行动作,表现可与专用世界模型及动作策略竞争,但摘要未提供基准名称、任务划分或定量性能。作者报告,在真实机器人实验中,使用 RTX 5090 GPU 生成子目标图像及覆盖一秒运动的动作块耗时 1,030 ms,并维持每秒 2.5 个动作的闭环控制;生成耗时与闭环动作速率是不同指标,不能据此推断其他硬件或控制配置下的实时性。作者另报告,机器人视频预训练与人类视频联合训练显著改善策略性能及对分布偏移的零样本鲁棒性,具体增益、偏移类型与统计依据尚未验证。 平台推测(待验证):共享离散序列与掩码任务切换可能为 EEG 表征学习及下游解码提供参考,但这是假设,并非已验证的 BCI 结果。迁移依赖合适的 EEG 离散编码及任务监督,需改造视频编码器、动作表示和条件输入;低信噪比、通道差异与小数据可能使量化丢失有效信息,并削弱跨被试泛化。一个可检验的小实验是在固定跨被试划分下,比较共享掩码模型与同一编码器的单任务模型,检查无标签 EEG 联合训练是否改善解码性能。已有 EEG 相关工作尚未检索确认;完整实验协议、消融、统计信息及复现条件尚未验证。

阅读价值

值得核对其通过推理掩码统一视频预测与动作生成的机制,以及无动作标注视频联合训练对策略性能和分布偏移鲁棒性的贡献;具体增益及对照协议尚未验证。

来源:arXiv · 泛化与分布偏移 · arxiv.org