跳到正文
arXiv · 表征与预训练· Wencan Feng; Bailing Tian; Yulin Hui; Zhiyu Li; Junjie Lu·· 16 小时前精选AI 评分74

利用跨模态监督学习面向单目飞行的几何感知规划表征

Learning Geometry-Aware Planning Representations for Monocular Flight with Cross-Modal Supervision

AI 导读

基于摘要分析。本文研究微型飞行器(MAV)的单目视觉轨迹规划:针对 RGB 图像缺少直接度量线索、环境外观变化较大的问题,通过深度专家向 RGB 规划器传递规划相关几何表征,在不显式重建深度的情况下支持避障。 框架输入为两帧图像、两帧之间的相对位姿及 MAV 状态,输出轨迹。训练分三阶段:先训练基于深度的几何专家,再利用配对 RGB-D 观测,将专家的规划特征蒸馏到单目分支,最后针对下游轨迹规划目标进行适配。其关键机制是在规划目标之外加入特征级几何监督,而非要求 RGB 分支直接输出深度。摘要未提供具体网络结构、损失形式或各阶段训练配置。 作者使用 3D Gaussian Splatting(3DGS)模拟器渲染观测,用于数据采集、配对 RGB-D 监督及仿真评估。作者报告,仅在仿真中训练的规划器无需真实环境微调即可部署到实机,并实现最高 6.5 m/s 的避障飞行;该数字对应所述实机部署条件,不能视为不同环境下的普遍性能保证。场景规模、数据划分、对照基线、成功率、消融及统计信息尚未验证。 平台推测(待验证):可迁移的候选机制是“训练时利用特权模态监督特征,推理时仅保留目标模态”,而非飞行几何本身。若 EEG 任务具备同步辅助模态及一致任务监督,可假设借用教师—学生蒸馏流程,但须重设教师表征与对齐目标;低信噪比、跨被试差异、通道配置变化和小数据可能使教师知识难以迁移。一个可检验的小实验是在固定跨被试划分下,对比 EEG 单模态基线与配对模态蒸馏,并加入打乱配对的对照,检验收益是否来自有效配对监督。相关 EEG 工作尚未检索确认,此设想不构成已验证的 BCI 贡献。

阅读价值

值得关注的是通过特权深度专家的特征级跨模态蒸馏,使 RGB 规划器在不显式重建深度的条件下学习任务相关几何表征;作者报告了无需真实环境微调的实机部署,但其对 EEG/BCI 的适用性尚未验证。

来源:arXiv · 表征与预训练 · arxiv.org