跳到正文
OpenReview · Representation learning· Anay Majee; Suraj Nandkishor Kothawade; Krishnateja Killamsetty; Rishabh K Iyer·· 2023-09-16精选AI 评分75

SCoRe:面向真实世界类别不平衡场景的子模组合表征学习

SCoRe: Submodular Combinatorial Representation Learning for Real-World Class-Imbalanced Settings

AI 导读

基于摘要分析。该研究针对类别不平衡条件下稀有类别特征多样性不足、类别间偏差与类别内方差问题,提出 SCoRe(Submodular Combinatorial Representation Learning)框架,以一组子模组合损失改进对比表征学习。 核心机制是利用 Submodular Information Measures 等集合函数,同时建模特征簇的多样性与协作关系。作者提出包括 Facility Location、Graph-Cut 和 Log Determinant 在内的组合目标,并指出现有对比学习方法具有子模性,或可重新表述为相应的子模形式。摘要未提供损失公式、特征集合的构造方式、监督要求、批次采样及优化细节,尚不能判断这些目标与常用对比损失的具体差异或计算开销。 作者在高度不平衡的 CIFAR-10、MedMNIST 子集上进行图像分类实验,并在 India Driving Dataset(IDD)上进行道路物体检测实验。作者报告,相对其采用的先进度量学习基线,新目标在不平衡分类任务上的提升最高为 7.6%,在物体检测任务上的提升最高为 19.4%。摘要未明确指标、相对增幅与百分点含义、具体基线及数据划分,因此这些数字不能直接解释为 Accuracy 或检测指标的百分点提升;实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设 EEG 少数类别也存在表征覆盖不足,集合级多样性与协作建模可能用于缓解类别不平衡,但视觉任务收益不等于 BCI 收益。可复用部分是组合损失,需核对并改造 EEG 特征相似度、集合构造和采样策略;低信噪比、跨被试差异、通道变化及小数据可能使多样性目标优先保留噪声或被试特征。一个可证伪的小实验是固定 EEG 编码器与 Cross-subject 划分,在受控类别不平衡条件下,仅替换损失并与原对比损失及类别加权基线比较 Balanced Accuracy 和少数类别召回率,报告多随机种子的波动。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 SCoRe 如何将子模集合函数转化为类别不平衡下的表征学习损失,以及其相对度量学习基线的收益是否依赖类别分布与批次构造;对 EEG 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net