TS-WAM:时序潜在动作与视觉预测控制
先了解这件事
基于摘要分析。TS-WAM旨在减少视觉语言机器人控制对动作标注示范的依赖,并引入未来视觉状态预测。其vlm-jepa以EMA目标分支学习机器人示范和无动作标注人类视频,耦合delta-lwm,由当前观测与指令预测潜在动作,再预测未来视觉特征以引导动作生成。作者称,时序表征、视觉动态与控制端到端联合训练,无需独立预训练阶段;推理时移除EMA分支。 作者报告在LIBERO、LIBERO-Plus、SimplerEnv及Franka Research 3、RevoTron真实机器人实验中具备较强性能、泛化性与鲁棒性,但摘要未列任务划分、基线、指标数值或消融,提升幅度、模块贡献及部署开销尚未验证。当前仅有该摘要报道,无法确认版本变化;其机制对BCI的适用性尚未验证。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- arXiv · 多模态与生成机制精选TS-WAM:用于视觉-语言机器人控制的时序潜在动作与世界-动作耦合
基于摘要分析。TS-WAM 面向视觉-语言机器人控制,试图缓解策略对带动作标注的机器人示范的依赖,以及缺乏显式未来视觉状态预测的问题。其核心贡献是将自监督时序表征学习、视觉动态预测与机器人控制纳入统一的端到端训练,并利用无动作标注的人类视频参与学习。 机制上,Teacher-Student World-Action Model 中的 vlm-jepa 使用 EMA 目标分支,从机器人示范与无动作标注的人类视频等异构数据中学习,无需另行训练外部教师。它与 delta-lwm 耦合,根据当前观测和指令预测潜在动作,再以潜在动作预测未来视觉特征,并在推理时用这些特征引导动作生成。作者称,该流程不需要独立的潜在动作或世界模型预训练阶段;EMA 目标分支在推理时移除。摘要未给出具体损失形式、时序跨度、数据混合比例或部署开销,轻量化程度尚待核对。 作者报告,在 LIBERO、LIBERO-Plus、SimplerEnv,以及 Franka Research 3 和 RevoTron 的真实机器人操作实验中,TS-WAM 表现出较强的操作能力、泛化性与鲁棒性。但摘要未提供具体任务划分、对照基线、指标和数值,因此无法量化提升,也不能判断各模块的独立贡献;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其潜在时序状态预测机制可作为 EEG 自监督表征学习的研究假设,但原任务依赖视觉序列、语言指令及机器人动作监督,不能直接等同于 BCI 解码。可考虑复用 EMA 目标与未来特征预测思路,重新设计 EEG 时序编码和监督目标;低信噪比、跨被试与通道差异可能使模型主要预测背景变化而非任务信息。一个小规模可证伪实验是在固定 EEG 数据划分、编码器和训练预算下,对比加入与不加入未来特征预测的跨被试解码表现。此建议并非本文已验证结果,相关 EEG 工作尚未检索确认。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 610月16日 14:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。