用于事件流时空表征学习的 Event Voxel Set Transformer
Event Voxel Set Transformer for Spatiotemporal Representation Learning on Event Streams
基于摘要分析。本文研究事件相机产生的稀疏异步视觉事件流,提出 Event Voxel Set Transformer(EVSTr),以体素集合表征和分层特征聚合学习时空结构,避免直接将事件投影为稠密帧后使用常规视觉模型。主要研究对象是事件视觉中的物体分类与动作识别,而非 EEG 或 BCI。 机制上,EVSTr 首先将事件流转换为体素集合,再逐层聚合体素特征。其核心编码器包含用于局部信息聚合的 Multi-Scale Neighbor Embedding Layer(MNEL),以及用于全局特征交互的 Voxel Self-Attention Layer(VSAL)。此外,分段建模策略 S2TM 从连续的分段体素集合中学习运动模式,以引入长程时间结构。该设计针对作者指出的既有点式事件网络在局部聚合与特征交互方面的不足。 作者还提出在具有挑战性的场景下采集的事件动作识别数据集 NeuroHAR。作者报告,EVSTr 在物体分类与动作识别评估中达到当时最先进性能,同时保持较低模型复杂度;摘要未提供具体指标、对照方法、数据划分及复杂度数值,实验协议、消融及统计信息尚未验证,代码与复现条件也尚未确认。 平台推测(待验证):可检验的迁移假设是,局部邻域聚合与分段长程交互可能适用于稀疏神经事件表征,但原方法依赖事件相机的空间—时间坐标和体素邻域,连续 EEG 并不天然具备相同结构。若用于 EEG,需重新定义通道空间邻域、时间分段及输入编码;可复用的是聚合与交互思路,而非直接沿用视觉体素。低信噪比、跨被试差异、通道布局变化及小样本可能使邻域定义失效或导致过拟合。一个小规模可证伪实验是,在固定 EEG 编码、训练数据和跨被试划分下,对照局部聚合、加入全局交互及加入分段建模的版本,并同时记录任务指标与计算成本。相关 EEG 工作尚未检索确认。
值得关注其以局部多尺度聚合、全局注意力与分段时序建模处理稀疏异步事件的机制,但作者报告的性能与复杂度优势仍需结合全文协议核验,尚不能视为 EEG/BCI 有效性的证据。
来源:OpenReview · Representation learning · openreview.net