面向视觉皮层的任务与数据优化模型的多模态缩放定律
Multimodal Scaling Laws for Task & Data-Optimized Models of Visual Cortex
基于摘要分析。该研究关注如何提升任务优化深度神经网络对视觉皮层响应的预测能力,在统一流程中比较三个环节:通用视觉预训练的规模扩展、引入神经监督的微调,以及从模型特征到神经响应的最终映射。其主要对象是视觉皮层计算建模,而非直接面向 BCI 的意图或指令解码。 研究覆盖在受控条件下训练的 600 多个视觉模型,以及八个公共数据集,模态包括猕猴电生理和人类 fMRI、EEG、MEG。作者报告,增加预训练计算量与数据规模能在不同模态中稳定改善模型与脑响应的对齐,但收益会趋于饱和;混合任务与神经监督的微调带来一致改善,且改善趋势跨模态成立。摘要不足以确认这里是否涉及 Cross-dataset 或跨模态训练迁移,不能将其直接解读为迁移泛化结果。 作者报告,最强的数据集内收益来自读出映射阶段:增加用于拟合读出的成对刺激—响应样本,会带来稳健、近似对数线性的改善。此外,作者提出被试共享的注意力读出,在与标准逐被试线性探针的比较中,达到相当或更好的表现,同时参数量少约一个数量级。具体对齐指标、各模态结果、训练与测试划分、被试规模、微调目标,以及共享读出是否适用于未见被试,均尚未验证;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若用于视觉刺激相关 EEG 建模,被试共享读出可能为小样本条件下共享信息、减少独立拟合参数提供可检验的路径。可复用的是视觉特征到神经响应的共享映射思路,仍需适配 EEG 的时间维度、通道布局及个体差异;低信噪比和被试间响应差异可能抵消共享收益。一个小规模检验是假设在固定视觉特征、相同刺激—EEG 样本量与相同留出协议下,共享注意力读出优于逐被试线性探针,并分别核对被试内与跨被试表现。该假设不构成已验证的 BCI 效果,相关 EEG 既有工作尚未检索确认。
该研究在统一流程中比较视觉预训练、神经监督微调与读出映射的作用,值得核对各模态的独立结果及被试共享读出的评估协议,但其视觉皮层建模收益尚不能等同于 BCI 解码收益。
来源:OpenReview · EEG · openreview.net