跳到正文
OpenReview · State space models· Tuyen Tran; Thao Minh Le; Quang-Hung Le; Truyen Tran·· 2025-10-21精选AI 评分74

Planner-Refiner:面向视频视觉—语言对齐的动态时空细化

Planner-Refiner: Dynamic Space-Time Refinement for Vision-Language Alignment in Videos

AI 导读

基于摘要分析。本文研究视频视觉—语言对齐中复杂语言、动态交互实体及动作链带来的语义鸿沟,提出 Planner-Refiner,通过语言引导的迭代时空表示细化,将视觉表示逐步与语言语义对齐。主要研究对象是视频中的指代表达对象分割(Referring Video Object Segmentation)和时间定位(Temporal Grounding),并非神经信号解码。 机制上,Planner 将复杂语言提示分解为短句链,以安排语言引导顺序;Refiner 处理由名词短语与动词短语组成的短句,引导视觉 token 的自注意力先沿空间、再沿时间展开,完成单步细化。递归系统串联这些步骤并保留已细化的视觉 token 表示,最终交给任务专用输出头生成对齐结果。摘要未给出损失函数、训练方式、具体网络配置或计算成本,不能仅由来源栏目将该方法认定为 State Space Model。 作者报告,在上述两类任务、不同语言复杂度的评估中,Planner-Refiner 优于所比较的先进方法,并提出 MeViS-X benchmark,用于检验长查询处理能力。摘要未提供具体指标、分数、数据划分、基线名单或统计信息,因此性能优势的幅度及适用条件尚未验证;实验协议、消融及复现条件也需查阅全文。 平台推测(待验证):若 EEG 任务包含与语言描述对应的连续事件链,可假设短句链规划与递归时间细化有助于长指令条件下的事件定位。可复用的是语言分解与逐步更新思路,需将视觉 token、空间注意力和输出头改造为 EEG 时序表示、通道关系建模及事件定位模块,并准备时间对齐的语言—EEG 监督数据。低信噪比、跨被试差异、通道配置变化及小样本可能导致误差逐步累积。一个可证伪的小实验是在固定划分与相同 EEG 编码器下,对比完整指令一次性条件化和短句链递归细化,按指令长度检查事件定位误差;该方案不是论文已验证结果,相关 EEG 工作尚未检索确认。

阅读价值

值得核对其将复杂语言分解与递归时空表示细化结合的机制,以及 MeViS-X 长查询评估协议;摘要中的性能优势尚需全文实验支持,不能据此推断 EEG/BCI 有效性。

来源:OpenReview · State space models · openreview.net