用于放射学报告生成的跨模态因果表征学习
Cross-Modal Causal Representation Learning for Radiology Report Generation
基于摘要分析。本文研究放射学报告生成(RRG),针对视觉—语言偏差引起的伪相关,以及影像低分辨率、噪声对病灶描述准确性的影响,提出两阶段框架 Cross-Modal Causal Representation Learning(CMCRL)。其主要研究对象是放射影像到报告的生成,并非 EEG 解码或 BCI。 第一阶段为 Radiological Cross-modal Alignment and Reconstruction Enhanced(RadCARE)预训练:采用退化感知的掩码图像恢复,从低分辨率输入重建高分辨率图像块,以缓解噪声与细节丢失;结合多路径架构和四种自适应训练策略,学习不完整数据条件下的跨模态关联。摘要仅举出利用退化图像与文本前缀生成文本后缀这一策略,其余策略及具体损失尚未验证。 第二阶段为 Visual-Linguistic Causal Intervention(VLCI)微调:通过前门因果干预处理视觉与语言偏差。Visual Deconfounding Module(VDM)旨在无需细粒度标注地解耦局部与全局特征;Linguistic Deconfounding Module(LDM)旨在无需外部术语数据库地消除上下文偏差。前门识别所依赖的因果图、假设及模块实现仍需正文核对,不能仅凭模块命名认定已消除混杂。 作者报告,在 IU-Xray 和 MIMIC-CXR 上,CMCRL 优于所比较的先进方法,并称消融支持两个阶段的必要性;摘要未给出具体指标、数值、数据划分、基线配置或统计检验,实验协议、消融及统计信息尚未验证。摘要提供了代码与模型地址,但可用性及复现条件尚未核验。 平台推测(待验证):退化感知重建与跨模态去偏为低质量信号学习提供了机制层面的参考,但当前方法依赖影像—报告数据,局部—全局视觉结构和语言上下文不能直接对应 EEG 生理成分。若迁移至配对 EEG—文本任务,需要改造输入表征、退化模型及因果假设;低信噪比可能使重建强化伪迹,跨被试与通道差异、小样本也可能破坏所学关联。一个可证伪的小实验是在固定跨被试划分与同一文本监督下,仅比较有无退化感知重建的配对表征基线,检验收益能否保留;这不构成对完整因果框架的验证。相关 EEG 工作尚未检索确认。
值得核对其退化感知图文预训练与前门因果干预如何分别改善影像细节表征和报告生成偏差,但摘要中的性能与因果机制主张仍需结合完整实验及识别假设验证。
来源:OpenReview · Representation learning · openreview.net