通过潜在空间可达性分析将安全性推广至碰撞规避之外

基于摘要分析。本文研究机器人如何避免难以手工形式化、但可从高维观测中直观识别的失败，例如袋内物品洒出。作者提出 Latent Safety Filters，在生成式世界模型的潜在嵌入空间中开展 Hamilton-Jacobi（HJ）可达性分析，将安全控制的适用范围从传统碰撞规避扩展至更复杂的操作约束。 HJ 可达性分析能够识别不安全状态，并生成避免未来失败的动作。摘要指出，其实际应用通常依赖低维状态表示、基于第一性原理的动力学及人工设计的碰撞约束。本文的核心机制是利用世界模型承接 RGB 图像等原始观测，将复杂约束的指定转化为潜在空间中的分类问题，并在该空间推演动作的动态后果，以过滤原有策略中的不安全行为。潜在表征、约束分类与可达性分析之间的具体训练及计算流程尚未验证。 作者报告，在仿真和硬件实验中，Latent Safety Filters 被用于保护生成式策略及直接遥操作等不同控制方式，任务包括防止 Franka Research 3 机械臂洒出袋内物品或推倒杂乱摆放的物体。摘要未提供成功率、干预频率、实时计算开销或对照基线，因此尚不能量化其安全收益，也不能据此认定其对任意策略均有效。 复现时需核对世界模型的数据覆盖、潜在状态对安全相关信息的保留程度、约束分类监督，以及模型误差下安全保证的成立条件；实验协议、消融及统计信息尚未验证。本文的主要对象是机器人视觉安全控制，材料未提供 EEG/BCI 验证，也不足以据此认定其可直接迁移至神经信号任务。