跳到正文
arXiv · 多模态与生成机制· Chih-Chung Hsu·· 1 天前精选AI 评分73

SPECTRA-VLA:冻结视觉-语言-动作接口处的 Base-Fine 高光谱 token 迁移

SPECTRA-VLA: Base-Fine Hyperspectral Token Transfer at Frozen Vision-Language-Action Interfaces

AI 导读

基于摘要分析。SPECTRA-VLA 研究如何将高光谱信息接入预训练视觉-语言-动作模型,使冻结的解码器能够利用 RGB 难以区分的物体差异;其贡献是在不重新训练视觉编码器或动作解码器的条件下,以保持原生宽度的 token 残差增强接口表示。 方法通过每个目标 token 自身的归一化伪彩色参考,学习连续残差,并用投影、范数控制及基于验证数据校准的注入方式约束表示变化。摘要强调,高光谱信息的补充与原接收 token 的保留需要共同发挥作用,而不是仅将汇聚后的表示替换进接口。具体训练目标、投影实现及校准流程尚未验证。 作者报告,在 86 次留出采集上,类别 Balanced Accuracy 从 0.812 提升至 0.883。在残差和尺度相同、图像互斥识别表现相近的对照下,将残差加到各自 token 上,较汇聚替换方式更有利于在冻结解码器 logits 上复用外部类别衍生探针,所报数值为 0.701 对 0.590;摘要未明确该探针指标的名称。覆盖同一批 86 次采集的五项分组测试中,连续状态和后验编码状态恢复类别内光谱形状的 R² 分别为 0.802 和 0.337。作者还报告,类别匹配的光谱交换测试显示,自身 token 组合方式使冻结解码后的目标特异性恢复增量约翻倍。 这些结果主要检验接口表示是否保留并传递光谱信息,摘要未提供机器人动作任务的成功率,也未提供 EEG 或 BCI 验证。留出采集与分组测试的具体划分、基线定义、消融及统计信息尚未验证;仅凭摘要也无法确定复现所需的数据、代码和模型配置。已有 EEG 相关工作尚未检索确认,不将该视觉接口结果直接视为神经信号迁移证据。

阅读价值

值得核对其在冻结接口处区分光谱信息注入与接收 token 保留作用的对照设计,但摘要中的证据限于识别、探针复用和光谱恢复,尚不能据此判断动作执行或 BCI 效果。

来源:arXiv · 多模态与生成机制 · arxiv.org