通过量化条件强化学习恢复视觉-语言-动作策略的低比特量化失效
Recovering Low-Bit Failures in Vision-Language-Action Policies via Quantization-Conditioned Reinforcement Learning
基于摘要分析。本文研究视觉-语言-动作(VLA)策略量化后任务完成能力下降的问题,提出离线强化学习方法 Quantization-Conditioned Reinforcement Learning(QCRL),利用完整执行轨迹中的成功与部分完成信号,恢复低比特策略性能。研究对象是 VLA 策略的量化与部署,而非 EEG 解码或 BCI。 作者报告,在涵盖五种 VLA 模型、4,050 次真实环境试验的系统评估中,量化感知训练(QAT)通常优于训练后量化(PTQ),但在长时程任务以及视觉、语义偏移下,与全精度(FP)策略仍存在明显差距。作者将一个改进切入点归于模仿学习目标未显式利用执行成功或部分完成信号。 QCRL 将基于进度的优势估计与量化感知的来源条件机制结合:利用 FP 执行轨迹提供超出动作级蒸馏的参考经验,通过按进度缩放的终止惩罚区分部分完成程度,并借助量化感知条件机制,在量化策略中选择有利的参考行为。具体损失形式、数据来源配比与条件变量实现尚未验证。 作者在 π₀.₅ 和 GR00T N1.5 上评估仅权重量化的 INT4 W4A16,并在 π₀.₅ 上评估权重与激活联合量化的 NVFP4 W4A4。作者报告,仅使用分布内数据时,π₀.₅ 的 INT4 W4A16 方案在三种视觉偏移条件下达到 FP 平均得分的 99.3%,模型内存占用减少 42.9%;NVFP4 W4A4 方案达到同一 FP 基线平均得分的 100.7%,并在 NVFP4/FP8 部署下获得 1.73 倍加速。硬件收益均以 Jetson Thor 上的 FP16 为参照;这些得分比例不是任务成功率或 Accuracy。 全文尚未取得,具体任务、得分定义、训练与评估划分、各模型结果、消融及统计信息尚未验证。复现时需核对 FP 参考轨迹的采集成本、进度信号定义及部署测量条件,不能仅凭摘要判断性能恢复是否覆盖全部长时程任务与语义偏移场景。
值得核对的是,QCRL 将任务成功与部分完成信号用于低比特 VLA 策略恢复,作者报告了视觉偏移条件下的性能恢复及 Jetson Thor 部署收益,但其对 EEG/BCI 的适用性尚未验证。
来源:arXiv · 多模态与生成机制 · arxiv.org