面向视觉-语言-动作策略的双流记忆
Dual-Stream Memory for Vision-Language-Action Policies
基于摘要分析。该研究针对依赖记忆的机器人操作:策略既需跟踪执行状态,又需找回当前不可见的视觉证据。作者提出双流记忆,分别以压缩的时序表征和任务条件化的历史帧检索支持视觉-语言-动作策略,主要研究对象是机器人操作,而非 EEG 或 BCI。 机制上,任务无关的 Gated DeltaNet 将历史压缩为一个时序 token,通过进度预测与动作条件化的特征重建进行监督;任务条件化检索器保留相关性超过固定阈值的帧,再以线性多尺度融合将每帧编码为十六个空间 token。训练随后冻结时序压缩器,联合优化检索与策略学习。其核心设计是区分持续更新的执行上下文与按需访问的空间视觉证据,而非仅用一种历史表征承担两类需求。 作者报告,在十六项 RoboMME 任务上,完整模型的平均成功率为 49.22%,已发表的 FrameSamp+Modul 参考结果为 44.51%;完整模型在十四项任务及全部四个任务套件的均值上取得提升。作者报告,在四项真实机器人任务上,平均成功率为 62.5%,对照为 37.5%,其中需要辨别执行阶段的重复动作任务收益最大。摘要未说明真实机器人对照的具体配置、试验次数及统计不确定性,实验协议、消融及统计信息尚未验证。 作者同时指出,杯子交换情形下的失败暴露出持续物体身份跟踪仍未解决;压缩执行历史与检索相关帧并不自动保证身份连续性。复现时需核对进度监督来源、检索相关性的定义与阈值、历史帧存储成本,以及冻结压缩器的训练细节。材料未提供神经信号实验,不能据此认定其对 EEG/BCI 有效;已有 EEG 相关工作尚未检索确认。
该研究将执行进度记忆与历史视觉证据检索分离,摘要提供了仿真及真实机器人任务的对照结果,并指出物体身份跟踪的失败情形,值得核对两类记忆的互补性及各自贡献。
来源:arXiv · 多模态与生成机制 · arxiv.org