释义改写共识并非自一致性:VLA 策略中的指令依赖与鲁棒性
Paraphrase Consensus Is Not Self-Consistency: Instruction Reliance and Robustness in VLA Policies
基于摘要分析。本文研究在 LIBERO 上微调的 vision-language-action(VLA)策略为何对指令改写敏感,以及测试时提示集成能否缓解这种敏感性。作者报告,在所测试设置中,改写共识未能恢复原训练指令下的成功表现,而基于改写指令的 LoRA 后训练能够改善改写鲁棒性,且未改变策略对指令的依赖程度。 原研究对象是机器人 VLA 策略。摘要指出,相关策略训练与评估使用相同的十条指令字符串;对 base OpenVLA 改写指令后,作者报告成功率变化为 −38.0 个百分点。测试时,方法从 K 条释义改写产生的动作中选择 medoid(中心样本动作):当候选包含原训练指令时,相较原训练指令评估,作者报告成功率降低 16.8 个百分点;不包含原训练指令时,medoid 选择与基于置信度的选择分别降低 32.4 和 28.0 个百分点。对同一条改写指令进行多次采样后取 medoid,虽优于贪心解码,但仍较原训练指令低 27.6 个百分点。作者将这一现象解释为聚合可降低方差,却不能消除改写共同带来的偏差。 作者进一步使用错误指令探针,衡量策略成功中依赖指令的部分。在三种策略、四个任务套件的评估中,作者报告改写损失仅出现在指令依赖程度较高的情形,且更强策略损失的指令依赖部分比例小于 base OpenVLA。该结果有助于区分“任务可不依赖语言完成”与“真正理解不同表述”两种情况,但探针定义和具体统计仍需核对。 在改写指令 LoRA 后训练实验中,作者报告单条改写的成功率变化为 +2.0 个百分点,匹配对照为 −32.0 个百分点;摘要称该改善在两个随机种子及 OpenVLA-OFT 上复现,并迁移至留出的表述。上述数值属于不同实验设置,不能直接混合作为同一基线下的收益。K 值、任务划分、改写生成方式、后训练数据规模、实验协议、消融及统计信息尚未验证。材料未提供 EEG/BCI 验证,不宜将机器人语言鲁棒性结果直接视为神经信号解码改进。
值得阅读的是作者用错误指令探针区分策略对指令的依赖与改写鲁棒性,并对比测试时集成与改写指令后训练;具体评估协议及统计可靠性仍需全文核对。
来源:arXiv · 多模态与生成机制 · arxiv.org