跳到正文

算法、任务与模态

Curriculum Learning 最新动态

Curriculum Learning 研究索引；按可核对的标签归档，不以热度评价质量。

82 条精选近 30 天 16 条共收录 108 条

更新

精选归档 · 第 5 页

12月31日周二第 81–82 条
  1. OpenReview · Representation learning74

    标签相似性课程学习

    基于摘要分析。本文研究图像分类中的课程学习，提出 Label-similarity Curriculum Learning（LCL）：训练初期以反映类别相似性的概率分布替代 one-hot 标签，再逐步转向标准 one-hot 编码，以先学习较宽泛的类别关系、后区分细微差异。 核心机制是通过改变目标标签表示来调整损失函数，使训练早期对相似类别间错误的纠正弱于对差异较大类别间错误的纠正。类别相似性可以来自先验知识；当类别标签为自然语言词汇时，作者使用标准 word embedding 将其嵌入欧氏空间，再依据类别词向量与真实标签词向量的余弦相似度构造目标概率。具体概率映射、课程调度及损失形式尚未验证。 作者报告，在五个图像分类数据集、多个常用深度学习架构上的评估中，LCL 相比标准训练均提高了测试集分类 Accuracy；摘要点名的数据集包括 ImageNet、CIFAR100 和 AWA2，但未提供具体提升幅度。数据划分、基线训练配置、消融及统计信息尚未验证，尚不能据此判断收益来自类别关系、软目标本身还是课程调度。 平台推测（待验证）：该方法依赖可用且可信的类别相似性，可能用于探索 EEG 分类中易混淆类别的监督设计，而非直接处理信号去噪或跨被试分布变化。可复用模块是软目标生成与课程调度；需改造的是相似性来源，因为任务名称的词义关系未必对应 EEG 的可分性。低信噪比、被试差异、通道配置变化与小数据下不稳定的相似性估计均可能削弱效果。一个可检验的小实验是在固定 EEG 任务和同一被试内划分下，对比 one-hot 训练、固定软标签与 LCL，保持模型和训练预算一致，并仅用训练数据估计数据驱动的类别相似性，检查预先指定的分类指标及混淆模式。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 LCL 如何将类别相似性转化为随训练变化的监督目标，以及其相对标准训练的收益；该机制可提出 EEG 分类迁移假设，但摘要未提供 EEG/BCI 有效性证据。

9月17日周一
  1. OpenReview · State space models74

    通过扩展感知运动空间实现发展式强化学习

    基于摘要分析。该研究面向连续感知运动空间中的无模型深度强化学习，提出受儿童发展启发的迁移学习方式：让智能体在学习策略的过程中逐步扩大可用的感知运动空间，而非一开始就在完整空间中搜索。 核心机制是在基于神经网络的 actor-critic 中加入 developmental layers，依据 Intrinsic Motivation 启发式逐步开放部分感知运动维度。为缓解空间扩展过程中的灾难性遗忘，作者借鉴 Elastic Weight Constraint 调节神经控制器的学习。摘要未给出维度开放规则、约束的数学形式及训练调度，不能据此确定具体网络结构或损失函数。 作者报告，在 DDPG 和 NFAC 两种算法以及 Half-Cheetah、Humanoid 两个高维环境基准上，先在参数空间子集中寻找次优解、再转向完整空间搜索，有助于启动学习，并以更少的 episodes 获得更好的性能。摘要未提供具体回报、训练预算、随机种子、对照设置或统计结果；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其潜在对应对象是具有连续控制输出和在线反馈的 BCI 策略学习，而非一般 EEG 分类。假设逐步开放控制自由度能降低早期探索难度，可考虑复用维度开放调度与遗忘约束，但需将模拟环境中的感知运动维度映射到实际解码输出及反馈信号。低信噪比、跨被试差异、小数据和非平稳反馈可能使 Intrinsic Motivation 难以区分有效探索与噪声，也可能使早期受限策略阻碍后续学习。一个可检验的小实验是在固定 EEG 解码输入、奖励和交互预算的离线模拟控制任务中，对比逐步开放与一次性开放控制维度，并分别移除遗忘约束，评估任务回报、收敛速度和旧能力保持情况。该实验仅检验迁移假设，不代表已证实的 BCI 效果；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其以逐步开放感知运动维度来引导策略学习的机制，尤其是维度开放规则与遗忘约束各自的贡献；摘要中的性能改善尚需结合完整实验协议验证。