跳到正文
OpenReview · Representation learning· Agisilaos Chartsias; Thomas Joyce; Mario Valerio Giuffrida; Sotirios A. Tsaftaris·· 2018-03-01精选AI 评分79

基于模态不变潜在表示的多模态 MR 合成

Multimodal MR Synthesis via Modality-Invariant Latent Representation

AI 导读

基于摘要分析。本文研究多模态 MRI 图像合成,提出多输入、多输出的全卷积网络,将不同输入模态映射至共享的模态不变潜在空间,再融合为单一表示,由学习得到的解码器生成目标模态图像。其主要贡献是允许利用额外输入模态提升合成效果,同时不要求所有输入模态始终可用。 模型采用端到端训练。作者利用输入模态之间的高度相关性,避免对课程学习的依赖;还引入分割掩码信息,以降低合成误差并生成包含合成病灶的数据。摘要未说明具体融合算子、损失函数、缺失模态训练策略或掩码注入方式,这些机制细节尚待正文核对。 作者报告,在 ISLES 和 BRATS 数据集上的单输入任务中,模型相较当时最先进方法取得统计显著改善;使用多个输入模态后,改善进一步增加,相较当时最佳方法仍达到统计显著。作者还报告,在未经去颅骨处理的脑图像上优于此前最佳方法。摘要未提供具体指标数值、数据划分、基线名称及统计检验细节,实验协议、消融及统计信息尚未验证。材料提供了公开代码链接,但运行条件与复现完整性尚未核验。 平台推测(待验证):可迁移的假设是,以共享潜在表示融合可用输入,可能帮助处理 EEG 缺失通道或多模态输入不完整的问题。原方法依赖不同 MRI 模态间的高度相关性;其空间配准与监督配对要求需查正文确认。迁移至 EEG 时,可考虑复用共享表示与融合思路,但需改造时序编码、通道位置表示和任务输出模块。低信噪比、跨被试差异及小数据可能使共享表示丢失任务相关信息,MRI 合成结果不能作为 BCI 有效性的证据。可检验的小实验是在固定被试内划分下,比较共享表示融合与简单融合基线在不同测试通道缺失条件下的任务性能,训练时是否模拟缺失应分别控制。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其以共享模态不变潜在空间处理可变输入模态的机制,摘要还提供了公开代码入口,但其对 EEG 缺失通道或跨模态学习的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net