通过闭环优化增强针对 Vision-Language-Action 模型的视觉任务重定向攻击

基于摘要分析。本文研究语言引导机器人操作中的视觉任务重定向攻击，提出 TRACO，通过执行反馈更新监督目标并选择优化重点，以增强现有定向视觉攻击，使机器人行为偏离用户指定任务。 核心问题是攻击引起的轨迹变化：视觉扰动会改变较早的动作，进而改变机器人后续到达的物理状态，因此预先固定的目标监督可能不再适合实际到达的状态。即使目标匹配准确，也未必能推进攻击者指定的任务；平均匹配误差降低，同样不能保证关键阶段成功，后续更新还可能破坏此前已成功的行为。 TRACO 的 Execution-Driven Supervision 根据受攻击执行实际到达的状态重建监督，为后续更新提供引导。Progress-Guided Selection 则将更新重点放在任务进度停滞处，同时保留到达该阶段所需的早期行为监督。其方法重点在于让优化目标随闭环执行变化，并兼顾局部改进与先前行为的维持，而非仅追求固定目标下的平均误差下降。 作者报告，在多个 VLA 模型与仿真环境中的实验显示，TRACO 能提高任务重定向成功率。摘要未提供模型与环境名称、攻击约束、基线配置、成功率定义或具体数值，实验协议、消融及统计信息尚未验证；不能据此判断真实机器人上的有效性或跨模型迁移能力。 该研究的主要对象是机器人 VLA 模型安全，并非 EEG 解码或 BCI 控制。现有材料不足以建立具体的 BCI 迁移路径，不将其结果解释为已验证的神经信号算法贡献。复核时应重点核对执行反馈的获取条件、监督重建方式、优化成本，以及任务成功是否覆盖完整执行过程。