视觉语言模型中时空推理的线性机制
Linear Mechanisms for Spatiotemporal Reasoning in Vision Language Models
基于摘要分析。本文研究视觉语言模型(VLMs)如何结合视觉/几何信息与文本表征完成时空推理,提出并检验一种时空 ID 机制:对象位置通过 spatial IDs 与文本激活线性绑定,推理则经由语言 token 进行。作者还将分析扩展至视频 VLMs,报告了类似的线性 temporal ID 机制。 机制与证据:作者从空间结构的视觉表征与文本表征应在模型计算中汇合这一假设出发,寻找能够以线性模型解释部分输入—输出行为的内部表征。作者报告,spatial IDs 广泛存在于模型内部,对中间层进行因果干预可以系统性地调节模型对空间关系的判断。这一研究路径不仅关注位置能否从激活中被解码,也试图检验所识别表征是否实际参与模型行为。摘要未交代线性绑定的数学形式、ID 的提取方法、干预操作或其效应量,相关机制细节尚未验证。 贡献与边界:作者报告 spatial IDs 可用于诊断现有 VLMs 的局限与瓶颈,并以 temporal IDs 将解释扩展到视频中的时间结构。具体模型、任务、数据集、评估指标、对照基线、实验协议、消融及统计信息尚未验证,因此不能据此判断该机制对不同 VLMs 或全部时空推理任务的普适性,也不能将可解释性发现等同于性能提升。 与 BCI 的关系:本文主要研究对象是 VLMs 的内部时空表征,而非 EEG 或 BCI 解码。其结论依赖视觉位置、时间结构与语言 token 的关联;摘要没有提供与神经信号表征之间的具体对应关系,因此暂不提出 EEG 迁移实验。已有 EEG 相关工作尚未检索确认。复现评估首先需要核对表征识别、因果干预和行为测量的完整协议。
值得阅读的是作者通过因果干预检验 spatial IDs 与 VLM 时空推理行为的联系,为区分可线性解码的表征与实际参与推理的机制提供了研究切入点,但具体干预协议与结论适用范围尚未验证。
来源:OpenReview · State space models · openreview.net