跳到正文
OpenReview · State space models· Chi-Yao Huang; Khoa Vo; Aayush Atul Verma; Duo Lu; Yezhou Yang·· 2026-01-26精选AI 评分70

Domain Expansion:面向多任务学习的潜在空间构建框架

Domain Expansion: A Latent Space Construction Framework for Multi-Task Learning

AI 导读

基于摘要分析。该研究针对单一网络联合优化多个目标时,梯度冲突可能使共享表示陷入对各任务都不理想的折中状态,提出 Domain Expansion,通过重构潜在空间而非仅调整优化过程来缓解这一问题。作者将上述现象称为 latent representation collapse,并以物体分类与姿态估计的联合学习作为验证场景。 核心机制是 orthogonal pooling:为不同目标分配相互正交的潜在子空间,以限制任务之间的表示干扰。作者报告,在 ShapeNet benchmark 上同时训练物体分类和姿态估计时,该结构能够防止其所定义的表示坍缩,并形成显式、可解释、可组合且可直接操纵概念的潜在空间。摘要未提供具体性能指标、对照方法、数据划分或概念操纵的评估方式,因此不能判断收益幅度,也不能确认这些结论适用于哪些训练条件。orthogonal pooling 的数学定义、正交约束的实现、损失与训练细节,以及实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 多任务学习中的性能折中确实源于共享表示的梯度冲突,任务专属正交子空间可能是一条可检验的缓解路径。原研究依赖 ShapeNet 上物体分类与姿态估计的联合监督;迁移时可考虑复用潜在空间分配机制,但需改造 EEG 编码器和任务输出模块,并确认多个目标具有配套标签。强制正交也可能切断任务间有用的共享信息,在低信噪比、小数据及跨被试分布变化下增加估计不稳定性。一个小规模检验是在固定被试内划分、相同编码器和训练预算下,对比普通共享表示与正交子空间方案,同时观察各任务性能及梯度冲突是否同步改善。已有 EEG 相关工作尚未检索确认,此建议不构成已验证的 BCI 效果。

阅读价值

值得核对其 orthogonal pooling 如何隔离多任务梯度冲突,以及正交子空间是否兼顾任务性能与概念可操作性;摘要尚不足以验证其对 EEG 多任务学习的适用性。

来源:OpenReview · State space models · openreview.net