VLA-GAUGE:系统评估 Vision-Language-Action 模型的泛化能力与鲁棒性
VLA-GAUGE: Systematically Evaluating Generalization and Robustness in Vision-Language-Action Models
基于摘要分析。本文研究机器人操作中的 Vision-Language-Action 模型(VLAs):熟悉任务上的高成功率是否意味着对未见任务的零样本泛化能力及扰动鲁棒性。作者提出诊断框架 VLA-GAUGE,以共享的可执行任务表示统一两类评估,并将诊断结果用于定向数据增强和模型微调。 框架包含三个环节:在六类能力测试套件中构建成对的分布内与分布外任务;结合单因素敏感性分析与组合扰动筛查、评估;依据诊断开展针对性训练。其重点不仅是汇总任务表现,也包括定位能力短板,并检验诊断是否能指导模型改进。摘要未给出六类能力的具体定义、扰动构造规则及评分公式。 作者报告,在统一协议下评估涵盖不同模型规模与动作建模范式的12个 VLAs,平均 Zero-Shot Score 为22.3%;其中 SimpleVLA-RL 为8.0%,在所评模型中排名倒数第二。在三种代表性组合扰动配置下,平均 R-Score 为9.3;该指标不能直接解释为成功率。 作者报告,在留出场景中,诊断驱动微调使 π_{0.5} 的零样本泛化评分提高72.4个评分点,并使其在一种选定组合扰动下的鲁棒性评分提高31.8个评分点。后者高于采用 LIBERO-Plus 单因素微调获得的10.9个评分点增益,且使用的成功训练轨迹更少。这些结果的适用范围受所选模型、任务及扰动配置限制,不能直接推广至所有操作场景。 复现时需核对任务配对方式、留出场景划分、评分范围、扰动强度、微调数据与训练预算,以及评估不确定性;实验协议、消融及统计信息尚未验证。本文主要贡献是机器人 VLA 的诊断评估协议,摘要不提供 EEG/BCI 验证证据,不据此推断其在神经信号任务中的效果。
该框架将能力诊断、组合扰动评估与定向微调连接起来,值得核对其统一协议和留出场景设计,以判断诊断结果能否支持可复现的模型改进。
来源:arXiv · 多模态与生成机制 · arxiv.org