跳到正文
OpenReview · Representation learning·· 2026-09-17精选AI 评分75

COMiT:通过顺序通信学习结构化视觉 token

COMiT: Learning Structured Visual Tokens through Sequential Communication

AI 导读

基于摘要分析。COMiT 针对离散图像 tokenizer 偏重局部外观、难以形成对象级结构的问题,提出受通信机制启发的结构化视觉表示学习框架,通过顺序观察局部图像并反复更新固定长度的离散消息,支持完整图像重建与结构化表征学习。 核心机制是让 transformer 在每一步处理一个局部图像裁剪,并更新、细化和重组已有 token 序列;多次迭代后的消息作为 flow-matching 解码器的条件,用于重建完整图像。编码器与解码器在同一个 transformer 内实现,以 flow-matching 重建目标和语义表示对齐目标进行端到端训练。摘要未给出消息长度、裁剪策略、迭代次数、语义对齐目标的具体形式或监督来源。 作者报告,相较既有方法,COMiT 改善了组合泛化与关系推理;作者还报告,语义对齐有助于表征获得语义锚定,而注意力驱动的顺序 token 化对于形成更可解释、以对象为中心的 token 结构至关重要。具体数据集、对照基线、量化指标、实验协议、消融及统计信息尚未验证,因此目前不能判断提升幅度及其适用范围。 平台推测(待验证):若局部观察与反复修订消息的机制可用于多通道时序信号,它可能为 EEG 中跨时间窗、跨通道的信息整合提供思路,但视觉对象结构不等同于 EEG 的生理来源。可考虑复用固定长度消息及顺序更新机制,需改造局部观察的定义、时序位置编码与语义对齐目标;低信噪比、通道差异、跨被试变化及小数据可能使消息编码伪迹而非任务信息。一个可检验的小实验是在同一 EEG 数据划分下,控制消息长度与训练预算,对比一次性 token 化和顺序更新时间窗 token 的方案,并分别报告被试内与跨被试结果。该假设不构成已证实的 BCI 效果,相关 EEG 工作尚未检索确认。

阅读价值

值得核对其顺序局部观察如何促成对象中心的离散 token 结构,尤其是语义对齐与顺序 token 化各自的贡献;摘要未提供具体评估协议与量化结果,BCI 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net