基于 Lasso 的改进主动多任务表征学习

基于摘要分析。本文研究多任务预训练中如何主动选择和采样源任务，以缓解目标任务样本稀缺，并降低源任务的总样本需求。核心贡献是以 L1 正则化的目标—源任务相关性参数 ν¹ 替代既有的 L2 相关性参数 ν²，并在 ν¹ 未知时使用 LASSO 进行估计。 理论方面，作者报告，通过给出 ν² 策略的下界，论证 ν¹ 策略在源任务总样本复杂度上的严格优势；在 ν¹ 未知时，所提算法可恢复相关性已知情形下的最优结果。这里的优势针对论文所研究的主动多任务表征学习设定，不能直接解释为任意任务上的预测性能提升。作者还分析了不同源任务采样成本不同时，该策略的潜在收益。 实验方面，作者报告在真实计算机视觉数据集上进行了验证，但摘要未提供数据集名称、划分、基线和具体指标。相关性参数的精确定义、理论假设、LASSO 的估计条件，以及实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若把 EEG 的不同被试或数据集视为源任务，这种稀疏相关性估计可能用于减少与目标任务关联较弱的预训练数据采样。该假设依赖源任务与目标任务具有可共享的表征，并能用有限目标样本可靠估计相关性；可复用的是任务选择与采样分配思路，需改造的是 EEG 表征、通道对齐及任务定义。低信噪比、被试差异、通道不一致和小样本可能使相关性估计不稳定，导致误删有用源任务。一个可检验的小实验是在固定目标训练样本和源样本预算下，对比 LASSO 任务选择、L2 相关性选择及均匀采样，在独立目标测试集上评估性能与选择稳定性。已有 EEG 相关工作尚未检索确认。