通过选择性获取多个自监督前置任务的互补知识学习下游任务

基于摘要分析。本文研究如何在标注数据有限时，将多个自监督前置任务已学得的表征用于下游任务，核心贡献是通过注意力机制自适应选择适合目标任务的表征，而非仅关注自监督预训练阶段。 机制与理论：论文指出，自监督表征学习与下游任务学习通常分开进行，预训练表征因而未必适配具体下游目标。其方案利用注意力机制选择并汇集不同前置任务的互补知识。作者称，从信息论角度给出了汇集多种前置任务表征优于使用单一表征的理论证明；证明的假设、结论范围，以及注意力作用于何种表征、如何训练，摘要均未展开，尚未验证。 结果与证据边界：作者报告，在所开展的实验中，该方案相较流行的前置任务匹配方法，更有效地汇集知识并缓解下游任务的负迁移。摘要未提供具体数据集、任务、标注规模、划分协议、基线名称或量化指标，因此无法据此判断增益大小与可复现性；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：迁移假设是，不同 EEG 自监督前置任务可能提供互补信息，任务条件化的表征选择或可缓解有限标注下直接融合表征造成的负迁移。可复用部分是多表征选择与融合思路，需改造 EEG 编码器、表征对齐及通道处理方式；其依赖是已有多种预训练表征和足以学习选择策略的下游监督。低信噪比、被试差异、通道不一致及小样本可能使注意力过拟合或偏向伪相关。可在固定标注预算与相同数据划分下，对照单一前置任务、简单融合与注意力融合，并将被试内和跨被试结果分开报告，以检验互补收益是否成立。已有 EEG 相关工作尚未检索确认，原领域结果不构成 BCI 有效性的证据。