一种用于土地覆盖制图的贝叶斯启发式深度学习半监督域适应技术
A Bayesian-inspired, deep learning-based, semi-supervised domain adaptation technique for land cover mapping
基于摘要分析。该研究针对卫星影像时间序列(SITS)土地覆盖制图中目标区域标注不足的问题,提出半监督域适应方法 Sourcerer:在源区域预训练卷积神经网络,再利用目标区域可用数据继续训练,并通过随目标数据量调整的权重正则化控制模型变化。 核心机制是根据目标域数据量调节对源模型的保留程度:目标数据较少时限制权重变化,数据增加时允许更大幅度的适应。作者将其描述为贝叶斯启发式方法,但摘要未提供先验、正则项公式或强度调节函数,不能据此认定其采用完整的贝叶斯推断。摘要也未说明目标域未标注样本如何参与训练。 作者报告,在 Sentinel-2 时间序列影像的两组源域—目标域配对上,与两种先进半监督域适应方法及四个基线模型相比,Sourcerer 在所评估的各目标域标注量条件下均优于其他方法。对于其中更困难的目标域,作者报告 Sourcerer 在没有目标域标注数据时的起始 Accuracy 为 74.2%,高于使用 20,000 个目标域标注实例训练的次优先进方法。该结果限于摘要描述的区域迁移设置;具体划分、基线名称、重复实验、消融及统计信息尚未验证。 平台推测(待验证):按目标标注量控制模型偏离源模型的程度,可能对应 EEG 跨被试或跨会话适应中“小样本微调易过拟合”的瓶颈。可复用的是权重约束与数据量联动的策略,需改造的是 EEG 输入表示、通道处理及骨干网络。低信噪比、通道差异和较大被试差异可能使源模型约束保留错误偏置;大量相关时间窗也不一定意味着足够的独立目标信息。一个可证伪的小实验是在固定跨被试划分下,比较源模型直接推理、普通微调、固定强度正则化与数据量自适应正则化,逐档增加目标标注量,并保持测试集独立。已有 EEG 相关工作尚未检索确认,原领域结果不构成 BCI 有效性证据。
值得核对 Sourcerer 如何按目标域标注量调节权重正则化,以及其在极少标注条件下的对照优势;这一机制为少样本域适应提供了可检验思路,但 EEG 迁移效果尚未验证。
来源:OpenReview · Representation learning · openreview.net