Neurons++:面向 fMRI 图像与视频重建、具备神经到视觉可解释性的统一视觉流框架
Neurons++: A Unified Visual-Stream Framework for Image and Video Reconstruction from fMRI with Neural-to-Visual Interpretability
Neurons++ 针对 fMRI 视觉重建中“生成结果看似合理,但未必忠实反映脑活动”的问题,提出统一处理静态图像与动态视频的视觉流框架,并结合神经到视觉分析考察重建结果与脑活动的关联。基于摘要分析,尚未取得论文全文。 方法上,相较作者此前的会议版本 Neurons,Neurons++ 将仅面向视频的重建扩展至图像与视频,并以受皮层启发的串行解码替代并行任务条件化。模型先通过图像-fMRI 预训练获得稳定的空间与语义初始化,再分别针对图像和视频重建进行被试特定微调;串行设计将 fMRI 衍生表征组织为显式的空间、语义、语言层面和时间线索。摘要尚未说明这些线索的具体实现、训练损失及生成模块。 作者报告,在标准基准上获得最先进的视频重建表现及有竞争力的图像重建表现,但摘要未提供基准名称、被试数量、数据划分、对照方法或指标数值,因此暂不能核实优势幅度或跨协议可比性。这里的统一框架仍包含任务分别微调与被试特定适配,不能据此推断具备跨被试直接泛化能力。 在可解释性方面,作者报告神经扰动下的定性方向可控性、fMRI 编码器读出对刺激相关皮层特征的敏感性,以及 ROI 引导的语义调制。这些结果旨在补充视觉逼真度之外的神经关联证据,但其是否足以表明输出忠实依赖脑活动,仍需核对扰动方式、ROI 定义、对照设置与量化分析,不能直接视为因果验证。 摘要声明代码与模型权重已公开,可为复现提供入口;具体依赖、数据可得性、预训练与微调设置、实验协议、消融及统计信息尚未验证。
值得关注其以串行皮层启发解码统一图像与视频重建,并通过神经扰动和 ROI 引导调制检验输出与 fMRI 活动的关联;这些分析能否支持忠实解码,仍需核对全文中的对照与量化证据。
来源:arXiv · 神经解码与侵入式接口 · arxiv.org