典型可学习任务空间的图景
A Picture of the Space of Typical Learnable Tasks
基于摘要分析。本文研究深度网络在不同任务及学习范式下学到的表示之间有何结构关系,提出信息几何分析技术,以统一考察监督学习、元学习、半监督学习和对比学习所对应的概率模型空间及训练轨迹。原研究对象是由 CIFAR-10 和 Imagenet 构造的图像分类任务,并非 EEG 或 BCI。 作者报告,在所考察的图像分类任务中,不同任务与表示学习方法训练得到的概率模型流形具有有效低维结构;在一个任务上进行监督学习,也会在看似不相似的其他任务上产生进展,且训练任务的类别越多样,其他任务上的进展越大。作者还报告,分析得到的任务空间结构与 Wordnet 分类树的部分结构一致;情景式元学习与监督学习的训练轨迹不同,但最终拟合的模型相近;对比学习、半监督学习的轨迹则与监督学习相似。这些结论的具体度量、适用范围及效应大小尚不能从摘要核验。 该工作的潜在方法价值在于,将任务关系和学习过程置于概率模型的几何空间中比较,而不仅比较最终分类表现。摘要未说明具体几何度量、表示对齐方式及“进展”的计算定义;任务构造、模型配置、实验协议、消融及统计信息尚未验证。摘要提供了代码链接,但代码可运行性与复现条件尚未核验。 平台推测(待验证):若该几何分析能在统一输出空间和可比的预测分布上实施,可尝试用于考察 EEG 跨被试任务间的关系,检验几何接近是否对应更好的迁移表现。可复用的是模型空间与训练轨迹的分析思路,需改造的是 EEG 输入、任务定义及不同被试间的比较方式;低信噪比、通道差异和小样本可能使几何关系不稳定。一个可证伪的小实验是在固定通道、标签空间及独立测试划分下,比较源被试模型间的几何关系与其迁移至目标被试后的表现是否相关。此处仅为方法迁移假设,相关 EEG 工作尚未检索确认。
值得阅读其用信息几何比较不同任务与学习范式下模型表示及训练轨迹的分析思路,但其对 EEG 任务迁移的解释力尚未验证。
来源:OpenReview · State space models · openreview.net