跳到正文
arXiv · 多模态与生成机制· Jiaqi Fan; Rui Xu; Jiakun Xia; Xuyu Fan; Shuailei Ma; Yuefeng Wang; Qing Wang; Jiarui Zhang; Yili Fu; Xu Li·· 2 天前精选AI 评分76

行动前先倾听:利用 ListenVLA 实现音频条件机器人操作

Listen Before Act: Audio-Conditioned Robot Manipulation with ListenVLA

AI 导读

基于摘要分析。本文研究机器人操作中无法可靠从视觉推断、甚至需要通过物理交互才能获得的听觉线索,提出基于 GR00T N1.7 的音频条件视觉—语言—动作(VLA)策略 ListenVLA,并构建 LIBERO-Audio 基准。主要研究对象是声音引导的机器人操作,而非 EEG 或 BCI。 机制方面,ListenVLA 在因果音频历史上结合语义音频嵌入与从波形提取的声学线索,通过音频 tokens 和特征调制影响连续动作生成。其 audio-action binding 目标使用上下文匹配的示范,将听觉差异与示范动作差异关联起来:在共享纯噪声动作输入、固定非音频观测的条件下,监督不同音频条件对应的短时域 flow-velocity 预测差异,并结合完整动作块监督。该设计旨在让动作预测利用音频条件,而不只是将音频作为额外输入。 LIBERO-Audio 包含八项任务,覆盖基于声音的目标选择、对听觉事件的响应,以及通过物理交互揭示声学证据。作者报告,模型在该基准及三项真实机器人操作任务中表现良好;消融支持绑定监督与音频调制的贡献,音频交换测试表明声音会影响动作预测。摘要未给出具体指标、分数、对照方法或数据划分,因此尚不能判断收益幅度及泛化范围;实验协议、消融及统计信息尚未验证。摘要提供了代码和视频入口,但实现完整性、训练数据、计算需求及可复现性尚未核验。 平台推测(待验证):可迁移的假设是,条件差异绑定监督可能帮助多模态 BCI 控制策略减少对视觉上下文的依赖,但前提是存在非神经观测匹配、EEG 意图与目标动作不同的配对数据。可复用的是条件交换与差异监督思路,音频编码和调制模块则需适配 EEG。低信噪比、跨被试与通道差异、小数据,以及提示或动作伪迹混杂,都可能使绑定失败。一个小规模可证伪实验是在固定视觉上下文、被试内留出试次上比较有无绑定监督,并交换 EEG 条件,检验动作变化是否符合意图而非仅对扰动敏感。相关 EEG 工作尚未检索确认。

阅读价值

值得核对的是 ListenVLA 如何通过上下文匹配示范与音频条件交换检验声音对动作生成的影响,但摘要未提供定量结果,其对 EEG/BCI 的适用性尚未验证。

来源:arXiv · 多模态与生成机制 · arxiv.org