跳到正文
OpenReview · Representation learning· Michael Chen; Raghav Kansal; Abhijith Gandrakota; Zichun Hao; Jennifer Ngadiuba; Maria Spiropulu·· 2025-12-31精选AI 评分71

粒子物理基础模型中表征学习方法的评估

An Evaluation of Representation Learning Methods in Particle Physics Foundation Models

AI 导读

基于摘要分析。本文研究粒子物理基础模型中不同表征学习目标的作用,在喷注分类数据集上,以共享的 Transformer 粒子云编码器及统一训练评估框架,比较监督与自监督对比学习、掩码粒子建模和生成式重建目标。主要贡献是提供受控比较框架,并探索有针对性的监督式架构修改,而非提出 EEG/BCI 方法。 技术上,研究采用标准化预处理、匹配采样及一致的评估协议,旨在尽量隔离学习目标本身的贡献。作者还引入监督式架构修改,并报告其在基准评估中达到最先进性能;摘要未提供具体修改方式、数据集名称、划分、对照方法或指标,因此无法核对该结论的适用范围,也不能将架构修改带来的收益直接归于学习目标。作者将该框架定位为可复现基线,但代码、配置、实验协议、消融及统计信息尚未验证。 平台推测(待验证):可借鉴的主要是控制编码器、数据采样与评估协议后比较训练目标的研究设计,而非直接迁移粒子物理任务的性能结论。原研究依赖粒子云输入及喷注分类评估,监督对比目标还依赖标签;数据规模与样本结构细节尚未验证。若用于 EEG 表征学习,需要将输入、掩码和重建单元改为适配通道—时间结构,并检验其对跨被试差异与低信噪比的敏感性;小数据下,对比学习的样本关系及重建目标对噪声的拟合可能导致收益不稳定。一个可证伪的小实验是固定 EEG 编码器、预处理、训练预算及跨被试划分,仅替换自监督对比、掩码建模与重建目标,比较相同下游协议下的结果及多次运行波动。上述为迁移假设,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读之处在于以共享编码器和统一训练评估协议比较多类表征学习目标,但其基准优势及可复现程度仍需结合全文核对,尚不能据此判断 EEG/BCI 适用性。

来源:OpenReview · Representation learning · openreview.net