跳到正文
arXiv · 多模态与生成机制· Zihan You; Zehua Fan; Wenqi Lyu; Aoqi Wang; Ni Wang; Yifei Yang; Linge Zhao; Huan Li; Sining Ang; Yuguang Yang; Jueyu Chen; Xiangyu Li; Qianshan Wei; Jieyuan Pei; Yuxin Wang; Zhiwen Chen; Jiaqi Li; Wenxuan Song; Yanyuan Qiao; Benjin Zhu; Haoang Li; Yan Wang·· 2 天前精选AI 评分80

Language2Drive:自动驾驶中的视觉-语言-动作模型真的遵循指令吗?

Language2Drive: Do Vision-Language-Action Models Really Follow the Instructions in Autonomous Driving?

AI 导读

基于摘要分析。该研究针对自动驾驶 Vision-Language-Action(VLA)模型提出一个评估问题:车辆安全完成路线,并不意味着其执行了乘客指定的行为。作者提出 Language2Drive 基准,以同一初始驾驶场景下的不同可行指令,检验语言是否真正决定车辆的行为选择。 核心评估单位为 paired counterfactual unit(PCU,成对反事实单元):固定初始驾驶场景,仅改变指令,区分单条指令下的独立成功与反事实指令对均成功。摘要称评估覆盖四种指令遵循范围,但未提供各范围的定义。作者在闭环 CARLA 仿真、重建的真实世界场景及开环驾驶基准中开展评估,并报告发布了带专门设计地图的 CARLA-Language2Drive 仿真器;具体场景规模、指令构造及发布内容尚未验证。 作者报告,在所评估的代表性驾驶 VLA 及上述评估设置中,93.2% 的成功 rollouts 在替代可行指令下没有对应的成功运行。该数字描述的是成功运行缺少反事实成功配对的比例,不是整体驾驶失败率,也不是可直接换算的指令遵循 Accuracy。摘要将主要失败模式归为单侧完成:模型反复执行偏好的行为,却无法在相同场景中按另一条指令执行替代行为。各评估设置的分项结果、汇总方式、样本数量及统计不确定性尚未验证。 研究价值主要在于评估协议,而非提出新的 VLA 训练算法:通过控制场景并改变指令,检查常规驾驶分数和独立成功是否高估语言控制能力。需进一步核对替代指令的可行性判定、配对成功标准、模型与基线配置,以及闭环和开环结果的可比性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 BCI 系统本身以语言指令条件化解码或辅助控制,PCU 的控制变量思路可用于检查输出是否随指令改变,而非仅依赖神经信号或场景先验。可复用的是成对评估逻辑,但需重新定义 EEG 输入配对、有效指令及成功标准;低信噪比、跨被试差异和小样本可能使配对失败难以归因。一个小规模检验是假设固定同一段 EEG 输入与任务状态,仅替换两条预先确认可行的控制指令,对比独立成功和成对成功。该设想不构成已验证的 BCI 效果,已有 EEG 相关工作尚未检索确认。

阅读价值

其固定场景、仅改变指令的成对反事实评估设计,提供了区分驾驶任务成功与语言实际控制行为的可核对路径;具体指标定义及结果适用范围仍需全文验证。

来源:arXiv · 多模态与生成机制 · arxiv.org