跳到正文
OpenReview · EEG· Abdulkadir Gokce; Yingtian Tang; Martin Schrimpf·· 2026-05-01精选AI 评分81

面向任务与数据优化的视觉皮层模型的多模态缩放定律

Multimodal Scaling Laws for Task & Data-Optimized Models of Visual Cortex

AI 导读

该研究关注哪些建模选择能够提高任务优化神经网络与视觉皮层活动的对齐程度,通过跨记录模态的大规模模型比较分析资源投入与脑对齐表现的关系,并提出被试共享的 cross-attention 映射。基于摘要分析,研究对象是视觉皮层的计算模型,而非直接面向 BCI 的任务解码算法。 研究覆盖 8 个神经数据集,记录模态包括电生理、fMRI、EEG 和 MEG,并比较了超过 600 个具有不同架构与预训练配置的模型。作者报告三类趋势:其一,增加预训练计算量和数据规模能够改善对齐,但所有记录模态均出现收益饱和;其二,任务与神经数据的混合优化可持续改善对齐,且收益能够泛化至不同数据集和模态;其三,增加用于拟合模型到脑活动映射的神经样本量带来对数线性收益,在所比较因素中对对齐的影响最大。上述结果是作者对多数据集分析的概括,摘要未提供具体指标、效应量及各数据集协议,不能据此比较不同模态的绝对表现。 方法方面,作者提出被试共享的 cross-attention 映射,并报告其能够显著减少参数量、提高对齐表现。摘要未说明共享参数与被试特异信息如何组织,也未给出映射输入、训练目标、参数量及对照设置,相关实现与复现条件尚未验证。 其直接阅读价值在于区分预训练、神经数据优化和映射拟合三个环节的资源收益,而非证明扩大通用模型必然改善 EEG 或 BCI。解读时需核对脑对齐指标、神经样本的计量方式、被试与刺激划分、跨数据集及跨模态泛化的具体定义,以及混合优化与映射拟合各自使用的数据。实验协议、消融及统计信息尚未验证;这些缩放趋势能否延伸至 BCI 解码任务,摘要未提供证据。

阅读价值

值得阅读的是其对预训练规模、任务与神经数据联合优化、映射拟合样本量三类资源投入的系统比较,以及被试共享 cross-attention 映射;具体收益与适用边界仍需核对全文协议。

来源:OpenReview · EEG · openreview.net