GazeAct:用于注意力正则化策略的人类注视标注机器人操作数据集
GazeAct: A Human-Gaze-Annotated Manipulation Dataset for Attention-Regularized Policies
基于摘要分析。该研究针对 vision-language-action(VLA)机器人操作策略如何将语言指令定位到正确物体、接触点和目标位置的问题,提出具有人类注视标注的真实机器人数据集 GazeAct,以及利用注视监督多视角视觉注意力的训练框架。其主要研究对象是机器人操作与视觉定位,而非 EEG 解码或 BCI。 作者通过基于屏幕的遥操作,在操作者观看的机器人相机画面上直接记录注视。作者报告,数据包含覆盖 40 项任务、五个领域的 12000 条演示,300 Hz 注视数据与图像、本体感知及动作同步。框架将操作者所选视角中的注视迁移到其他同步相机视角,形成空间一致的监督目标;具体跨视角映射与标定方法尚未验证。 训练时,注视生成的目标用于正则化语言条件下的视觉注意力,推理时不需要注视输入。作者报告,在 18 项真实世界任务的评估中,平均成功率由 48.1% 提高至 58.6%,单项增益最高为 25 个百分点;在 LIBERO-Spatial 上,成功率由 57.9% 提高至 69.6%。上述结果的具体基线、数据划分、试验次数及统计不确定性尚未验证,不宜跨协议直接比较。作者还报告,消融支持将注视用作软监督,真实人类注视优于通用注意力塑形先验,并观察到对不同 VLA 骨干的迁移收益。 阅读全文时应重点核对注视目标的生成方式、注意力正则化的具体定义、跨视角映射误差,以及不同骨干与任务上的对照协议。数据和代码的公开状态、实验协议、消融细节及统计信息尚未验证。材料未提供神经信号实验或与 EEG/BCI 的具体机制对应关系,因此不将机器人任务收益外推为 BCI 性能提升。
值得关注其将真实人类注视转化为多视角 VLA 注意力软监督、且推理时无需注视输入的训练路径;跨视角标注与效果归因仍需结合全文核验,不构成 EEG/BCI 有效性的证据。
来源:arXiv · 多模态与生成机制 · arxiv.org