跳到正文

算法、任务与模态

消融分析 最新动态

消融分析 研究索引;按可核对的标签归档,不以热度评价质量。

48 条精选近 30 天 42 条共收录 57 条

更新

精选归档 · 第 3 页

9月17日周四第 41–48 条
  1. OpenReview · EEG77

    跨被试 EEG 到图像检索的表征、归一化与序贯校准

    基于摘要分析。该研究针对 EEG-to-image retrieval 的跨被试部署问题:源被试训练时可用的被试特异性归一化统计,在未见被试冷启动时不可直接获得。作者提出 Representation-Normalization-Sequential Calibration(RNSC)框架,将共享表征学习、源被试归一化与未见被试校准协调到同一检索空间中。 机制上,RNSC 使用共享且不依赖被试身份的视觉参照;EEG 编码器先对时间结构进行因子化处理,再进行通道语义混合,并在潜在编码之后聚合重复试次。源训练阶段在被试标准化坐标中优化 EEG 潜在表征;部署阶段结合有限的源先验与过去的无标签目标 EEG,序贯估计目标统计矩。摘要明确采用严格的 predict-before-update 协议,即先预测、后更新统计量,但具体估计公式、先验构造及更新规则尚未验证。 作者报告,在 THINGS-EEG2 的被试内(Within-subject)200-way 检索中,共享表征取得 93.67% Top-1 和 99.36% Top-5,并称其达到该设置下的最佳水平;完整 RNSC 在跨被试(Cross-subject)评估中取得 48.10% Top-1 和 76.34% Top-5。摘要未明确跨被试结果的候选集规模,两个协议下的数值不宜直接比较;具体数据划分、重复试次聚合条件与对照基线尚需全文核对。 作者称通过受控消融、潜在空间几何诊断和冷启动分析,区分了表征学习、训练时归一化与序贯目标统计估计的互补作用。复现时应重点核对目标 EEG 的到达顺序、预测与更新边界、统计估计对冷启动样本量的敏感性,以及各阶段的独立增益。详细实验协议、消融结果及统计信息尚未验证,代码与复现资源在所给材料中未获确认。

    阅读价值:值得核对其严格 predict-before-update 协议下的冷启动校准机制,以及表征学习、训练时归一化和序贯统计估计各自对跨被试检索的贡献。

  2. OpenReview · EEG79

    PACE:面向 EEG 基础模型的渐进式情感对齐

    基于摘要分析。该研究关注 EEG 基础模型中可提取的情感信息为何未必能跨异质被试、数据集及情感诱发情境迁移,提出情感后训练框架 Progressive Affective Contrastive Enhancement(PACE),通过逐步扩大对齐范围改善情感表征的迁移组织。 作者对四种 EEG 基础模型的冻结表征进行诊断,报告情绪关系在被试内比跨异质数据集与诱发情境更稳定,据此区分“情感信息可恢复”与“情感表征组织可迁移”。PACE 首先在各个数据集内部学习跨被试情感结构,再将对齐扩展至不同数据集和诱发情境,同时保留数据集内监督。其核心设计是从相对可靠的局部关系逐步扩展到异质条件,而非直接要求所有条件下的表征统一对齐;具体损失形式、监督标签及训练配置尚未验证。 在十二个完全留出的目标数据集、四种基础模型骨干上,作者报告:完整微调的平均 Balanced Accuracy 提升 2.66–7.05 个百分点,线性探测表现提升 3.52–5.77 点。摘要未明确后一项指标名称,也未交代这些提升区间对应的具体参照,因此不能将线性探测结果直接视为 Balanced Accuracy。作者还报告 PACE 在全部十二个目标数据集上优于 CE、SupCon 和 VREx 后训练方法;阶段消融支持渐进策略,冻结表征分析显示四种骨干的情绪关系几何均有改善。 复现时需核对后训练与目标数据的隔离方式、情绪标签跨数据集的对应关系、各目标数据集的评估划分,以及完整微调和线性探测各自的基线与统计不确定性。摘要提供匿名代码链接,但代码内容与可运行性尚未验证;具体数据集、被试数、实验协议、消融及统计信息亦尚未验证。该工作直接面向 EEG 情感迁移,其结果不能据此推广为其他 BCI 任务的普遍收益。

    阅读价值:值得核对其分阶段情感对齐能否在保留数据集内监督的同时改善跨数据集迁移,摘要提供了四种 EEG 基础模型骨干、完全留出目标数据集及阶段消融的验证线索。

9月8日周二
  1. OpenReview · EEG76

    PRiSE-EEG:采用深度分层专家的先验引导基础模型,用于跨范式 EEG 表征学习

    基于摘要分析。该研究针对不同 EEG 范式之间的优化冲突与表征共享差异,提出先验引导的 EEG 基础模型 PRiSE-EEG,通过 CKA 校准的深度分层专家配置,在浅层保留共享表征、在深层增加专用处理能力,以支持跨范式 EEG 表征学习。 机制依据:作者对 dense EEG Transformers 开展两类分析。在六个下游数据集上的梯度相似性分析中,作者报告不同 EEG 范式之间存在明显优化冲突;对混合范式批次的 CKA 分析则显示,浅层具有较强跨范式相似性,深层表征逐渐专门化。这些发现用于指导专家配置,而非在所有层采用统一适配方式。 模型设计:PRiSE-EEG 结合弱静态皮层与网络先验,以及动态短时通道交互,构建连续多通道 EEG patches;再通过对逐层 CKA 共享程度的 sigmoid 映射,在 MoE Transformer 各模块中配置共享与专用专家。摘要未说明先验的具体构建方式、通道交互计算、专家路由、损失函数或预训练设置,相关实现细节尚未验证。 结果与对照:作者报告模型在 12 个公开 EEG benchmarks 上表现较强,并报告简要消融中,CKA 驱动的专家配置优于 dense Transformers、uniform MoE 及人工固定的共享—专用专家比例。摘要未提供 benchmark 名称、任务组成、指标数值、被试与数据划分,也未明确这些比较采用何种下游微调或联合训练协议,因此不能量化收益,或据此确认跨被试、跨会话、跨数据集泛化能力。 复现重点:材料提供匿名代码仓库,但其内容与可运行性尚未验证。阅读全文时应核对 CKA 校准所用数据、专家总容量与计算预算是否匹配、下游适配协议,以及先验模块和专家分配各自的贡献;实验协议、消融及统计信息尚未验证。

    阅读价值:值得核对其由层级 CKA 相似性驱动共享与专用专家分配的机制,以及相对 dense Transformer、uniform MoE 和固定专家比例的消融;摘要尚不足以确认跨范式收益的幅度与评估协议。

9月1日周二
  1. OpenReview · State space models74

    面向点云长度外推的几何感知状态空间建模

    基于摘要分析。该研究针对点云模型在训练与测试输入密度不一致时性能下降的问题,提出 PointLEX-Mamba:将点云密度变化转化为序列化后的 token 长度变化,使模型在短序列上训练后,以固定参数直接处理更长序列,无需测试时对原始点云下采样或针对高密度输入重新训练。 核心机制包括 Geometry-Aware Channel Routing,根据几何信息将 token-channel 特征分配至局部与全局分支;以及 Geo-Score Token Filtering,结合 temporal response、几何显著性和空间多样性筛选关键全局 token。这一设计试图同时处理稠密点云中的邻近冗余、几何关键区域,以及与空间结构相关的 token-channel 交互。摘要未提供具体路由规则、评分公式、状态空间结构或训练目标。 作者报告,在 ModelNet40 和 ScanObjectNN 上,随着输入密度和序列化长度增加,PointLEX-Mamba 相比基线与直接迁移方法降低了 Accuracy 衰减;作者报告消融支持两个模块的互补贡献。摘要未给出具体分数、训练与测试点数、序列化方式、数据划分或基线名称,实验协议、消融及统计信息尚未验证。复现需核对上述条件,尤其是序列排序与几何特征构造如何影响长度外推;代码与权重可用性尚未验证。 平台推测(待验证):迁移假设是,局部/全局路由及冗余 token 筛选可能用于 EEG 长记录建模,但原方法依赖三维点云几何、空间邻近关系和序列化结构,其监督设置与规模尚不明确。EEG 应将几何显著性改造为电极空间关系与时间事件相关性,并重新定义 token 和筛选评分;低信噪比可能使关键瞬态被误删,跨被试差异、通道布局变化及小数据也可能使路由不稳定。一个可检验的小实验是在固定通道和同一任务下,仅用短 EEG 窗训练,再测试更长窗口,比较原始状态空间基线、路由模块和筛选模块的任务指标及事件保留情况,以检验是否真正改善长度外推。相关 EEG 工作尚未检索确认。

    阅读价值:值得阅读其将点云密度变化转化为序列长度外推、并结合几何感知路由与关键 token 筛选的机制,但具体收益及向 EEG 长序列建模迁移的可行性尚未验证。

8月30日周日
  1. OpenReview · EEG75

    DLink:从 EEG 基础模型中蒸馏逐层与主导知识

    基于摘要分析。该研究针对 EEG 基础模型(EFMs)推理开销较大、固定教师表征蒸馏可能未充分利用中间层任务信息的问题,提出 DLink(Distilling Layer-wise and Dominant Knowledge),通过输入条件化层路由与频谱引导蒸馏,将教师知识迁移到紧凑学生模型。 核心机制:路由器针对每个输入聚合教师模型不同层的表征,而非仅采用固定层作为蒸馏目标;随后对齐表征的幅度谱与相位谱,以缓解压缩引起的频谱失真。学生采用 project-then-compress 设计来吸收聚合后的教师知识。教师与路由器仅在训练阶段使用,因此无需作为学生推理时的组件。具体投影与压缩结构、频谱计算方式、对齐损失及其权重尚未验证。 作者报告,经验分析显示轻量模型虽具有竞争力,但表现高度依赖任务;具有任务判别力的信息分布在 EFM 的中间层,而非集中于最终层。这构成了动态层聚合的动机,但其适用范围仍需结合正文中的教师模型、任务与分析方法核对。 作者报告,在六个 EEG 基准上的实验中,DLink 改善了紧凑学生模型的表现,并保持轻量推理;进一步分析支持学习式层聚合与频谱蒸馏。摘要未提供基准名称、任务、被试数量、被试内或跨被试等评估协议、具体指标、对照基线及计算成本,无法据此量化收益或比较不同协议的结果。实验协议、消融及统计信息尚未验证。 复现时需核对教师与学生配置、路由器训练方式、project-then-compress 的实现、频谱对齐所在的表征空间,以及固定层蒸馏和其他压缩方法的对照设置。轻量推理不等于低训练成本,实际部署价值还需由学生参数量、计算量、延迟和性能共同验证;代码与权重可用性尚未验证。

    阅读价值:值得核对其输入条件化教师层聚合与幅度、相位频谱蒸馏能否稳定提升紧凑 EEG 模型,尤其是相对固定层蒸馏的收益及训练成本;摘要尚不足以验证具体效果。

1月26日周一
  1. OpenReview · EEG78

    CodeBrain:结合解耦分词器与多尺度架构的 EEG 基础模型

    基于摘要分析。CodeBrain 针对 EEG 基础模型表征辨别力与临床可解释性不足、全局依赖捕获效率不高以及局部神经事件建模不足的问题,提出两阶段方法,将时间与频率解耦的离散分词器与多尺度 EEGSSM 架构结合。 第一阶段采用 TFDual-Tokenizer,将异质的时间与频率 EEG 信号解耦为离散 token。作者称该设计使表征空间实现二次扩展,以增强辨别能力,并通过提示表征与神经事件、频谱节律之间的潜在联系,提供领域相关的表征级可解释性。摘要未说明 token 的具体构造、码本配置、训练目标及二次扩展的定义;这些潜在联系也不能直接等同于已验证的临床解释。 第二阶段的 EEGSSM 将结构化全局卷积与滑动窗口注意力结合,以同时捕获稀疏长程依赖和局部依赖。作者以大脑小世界拓扑作为该设计的动机,但摘要不足以确认其如何映射到 EEG 通道或时间结构,也不能据此认定模型还原了真实脑网络。 作者报告,CodeBrain 在其所称的最大公开 EEG 语料上预训练,并在分布偏移条件下、覆盖八项下游任务和十个数据集的评估中表现出较强泛化能力;同时报告开展了全面消融、scaling-law 分析和可解释性评估。摘要未给出任务与数据集名称、被试数量、被试内/跨被试/跨会话/跨数据集划分、对照基线或具体指标,因此无法量化增益或比较不同协议的结果。实验协议、消融及统计信息尚未验证。 作者提供了代码与预训练权重链接,为复现提供了入口,但其可访问性与实现细节尚未核验。复现时应重点核对预训练和下游数据的划分关系、通道与采样率适配、分词器和 EEGSSM 各自的贡献,以及可解释性证据是否超出表征与节律的关联展示。

    阅读价值:值得核对其时间与频率解耦的离散表征及全局—局部依赖建模是否分别改善分布偏移下的 EEG 泛化,作者报告提供消融与可解释性评估,但具体协议和证据强度尚未验证。

1月1日周一
  1. OpenReview · EEG79

    EEGPT:通过自回归预训练释放 EEG 通用基础模型的潜力

    EEGPT 针对 EEG 数据格式多样、预训练范式与迁移方法受限的问题,结合电极级建模、自回归预训练和多任务迁移,旨在构建可适配不同采集设备、被试与任务的通用 EEG 基础模型。基于摘要分析,未取得论文全文。 核心机制:作者将每个电极作为基本建模单元,以整合不同电极配置的 EEG 数据;摘要称预训练数据涉及最多 138 个电极,共计 37.5M 个预训练样本,但样本单位、切片方式及数据组成尚未验证。预训练采用 next signal prediction,而非传统 masked autoencoder,目标是捕捉 EEG 的序列与时间依赖;具体预测粒度、序列组织、损失函数与推理流程尚未验证。作者还探索了参数规模最高为 1.1B 的模型的 scaling laws,但摘要未提供规模与性能之间的定量关系。 迁移机制:作者提出跨任务共享的可学习电极图网络,用于多任务迁移学习,并报告任务间具有兼容性与协同作用。摘要称模型支持最多 138 个电极及其任意组合输入;电极身份编码、不同设备的输入对齐方式、缺失电极处理和任务特定模块仍需核对正文。 结果与证据边界:作者报告在覆盖 5 个不同任务的 12 个 benchmarks 上进行评估,并在全部下游任务中优于现有专用模型,同时称广泛消融支持其有效性。摘要未列出任务与数据集名称、被试数、被试内或跨被试等划分协议、基线、指标及数值,因此不能据此量化优势,也不能确认跨设备、跨被试适配的具体评估前提。实验协议、消融及统计信息尚未验证。 复现重点是核对异构数据整合规则、自回归目标与电极图迁移各自的贡献,以及预训练数据和下游评估的关系。摘要中的“首次”及“最大”等表述属于作者主张,尚未独立核实。作者表示将发布代码和模型,当前材料不能确认其已公开。

    阅读价值:值得核对其电极级建模、自回归预训练与共享电极图的多任务迁移如何协同处理异构 EEG,并复现作者报告的跨任务优势;具体划分、对照与统计证据尚未验证。

1月1日周日
  1. OpenReview · EEG71

    EEG 运动想象解码:基于通道注意力机制的比较分析框架

    基于摘要分析。该研究面向 BCI 中的 EEG 运动想象解码,构建可统一集成多种通道注意力机制的轻量架构,以比较这些机制对解码性能及计算开销的影响。核心贡献是提供共同的比较框架,而非仅在复杂架构中评估一种注意力机制。 作者将通道注意力视为传统运动想象空间滤波方法的一种演进,并强调基线结构简洁、不同注意力模块易于接入。该设计有助于在相同框架条件下考察模块收益;但摘要未说明具体注意力方法、作用于原始 EEG 通道还是中间特征通道,以及网络结构、损失与训练设置,这些细节尚未验证。 作者报告在四个数据集上开展实验,框架表现出较好的有效性与跨数据集适用性,通道注意力能够在维持较小内存占用和较低计算复杂度的同时改善性能。摘要未提供数据集名称、被试数量、指标数值、计算开销测量或数据划分,因此不能量化增益,也不能把多个数据集上的有效性直接视为 Cross-dataset 迁移验证。 复现时值得核对统一基线下各注意力模块的训练与调参条件、被试内或跨被试等评估协议,以及性能增益与参数量、内存和计算成本之间的关系。实验协议、消融及统计信息尚未验证;代码与复现资源也需由全文或来源记录确认。

    阅读价值:值得阅读的具体原因是将多种通道注意力机制置于统一轻量基线中比较,有助于核对注意力本身的收益与计算开销,而非将复杂架构的整体增益归因于单一模块。