跳到正文
OpenReview · EEG· Yonghao Song; Yijun Wang; Huiguang He; Xiaorong Gao·· 2025-01-01精选AI 评分76

通过语言引导的对比学习从 EEG 识别自然图像

Recognizing Natural Images From EEG With Language-Guided Contrastive Learning

AI 导读

基于摘要分析。本研究面向从 EEG 视觉响应中识别自然图像的问题,提出自监督框架,通过对比学习对齐 EEG 响应与图像刺激的表征,并利用 LLMs 生成的刺激描述引导模型学习核心语义信息。其贡献在于将语言描述引入 EEG—图像表征对齐,并从多个维度分析视觉响应,以考察识别的可行性与生物学合理性。 核心机制是将刺激图像及其诱发的 EEG 响应联系起来,再以语言描述提供语义引导。摘要未说明 EEG、图像和语言表征的具体编码方式、语言引导的融合位置、损失形式及训练流程,这些实现细节尚未验证。复现时需核对语言描述如何生成、训练与测试类别如何划分,以及语言引导相对于仅使用 EEG—图像对比学习的增益。 作者报告,在 THINGS-EEG2 的 200 类零样本识别任务中,top-1 Accuracy 为 19.7%,top-5 Accuracy 为 51.5%,并称结果显著高于机会水平。摘要未给出被试内或跨被试设置、被试数量、训练与测试划分及统计检验细节,因此这些结果只能在所述任务背景下解读,不能直接与其他协议比较。 作者还报告从时间、空间、频谱和语义角度分析 EEG 视觉响应,并以 THINGS-Magnetoencephalography(MEG)数据集的比较研究支持可行性与合理性判断;具体分析方法、对照结果及其证据强度尚未验证。摘要提供了 NICE-LLM 代码地址,但代码完整性、数据预处理与复现条件尚未核验。医疗与机器人控制属于作者提出的潜在 BCI 应用方向,不代表已经完成应用或临床验证;实验协议、消融及统计信息仍需全文核对。

阅读价值

值得阅读的是语言语义引导的 EEG—图像对比学习机制及其在 200 类零样本识别中的作者报告结果,但划分协议与语言信息的独立贡献仍需结合全文核对。

来源:OpenReview · EEG · openreview.net