跳到正文
OpenReview · Representation learning· Zhiwei Deng; Ting Chen; Yang Li·· 2024-01-16精选AI 评分77

Perceptual Group Tokenizer:通过迭代分组构建感知

Perceptual Group Tokenizer: Building Perception with Iterative Grouping

AI 导读

基于摘要分析。本文研究感知分组能否构成有效的视觉识别骨干,提出 Perceptual Group Tokenizer,以连续分组操作提取视觉特征并进行自监督表征学习,而非以 EEG 或 BCI 为研究对象。 核心机制是迭代地为像素或超像素假设其上下文,通过分组逐步细化特征表征。作者将模型描述为完全依赖分组操作,并报告其具有可解释性,以及无需重新训练即可进行自适应计算的性质。摘要未说明分组的具体实现、自监督目标、训练配置或推理时调整计算量的方式,这些机制细节尚待正文核对。 作者报告,在 ImageNet-1K 自监督学习基准的 linear probe 评估下取得 79.7% 的结果,并称其表现可与先进视觉架构竞争;摘要未明确该百分比对应的指标名称、具体对照模型及训练预算,因此不能据此认定其全面优于其他架构。实验协议、消融及统计信息尚未验证。 平台推测(待验证):迭代分组提供了一种从局部单元形成上下文表征的机制,可能对应 EEG 中跨时间片段、跨通道关系的建模需求。该假设依赖可定义的时空单元及有意义的分组关系;可尝试复用迭代分组思想,但需改造视觉输入单元、空间关系编码及自监督任务。EEG 的低信噪比、被试差异、通道布局变化与小数据条件可能使分组追随伪迹或被试特征,而非任务相关活动。一个可证伪的小实验是在固定跨被试划分、相同预处理与训练预算下,比较迭代分组和不分组的表征模型,并检查分类表现及分组对通道扰动的稳定性。已有 EEG 相关工作尚未检索确认,上述设想不是论文已验证的贡献。

阅读价值

值得关注其完全依赖迭代分组构建视觉表征的机制,以及作者报告的无需重新训练即可调整计算量的性质;这些性质能否用于 EEG 表征学习尚未验证。

来源:OpenReview · Representation learning · openreview.net