用于广义零样本学习的原型模型与新型信息论损失函数
Prototypical Model with Novel Information-theoretic Loss Function for Generalized Zero Shot Learning
基于摘要分析。本文研究广义零样本学习(GZSL):训练时没有目标类别的样本,测试时却须同时识别已见类别与未见目标类别。作者以原型模型为基础,将相关变量表示为概率向量,以便用简单闭式形式计算互信息、熵等信息量,并据此约束知识迁移与类别语义关系。 方法包含三类信息论损失:互信息损失用于连接已见样本与目标类别;不确定性感知熵约束损失用于抑制利用已见样本学习目标类别嵌入时的过拟合;语义保持交叉熵损失用于维持语义表示映射到公共空间后的关系。作者还讨论了公共嵌入空间与距离函数的选择,但摘要不足以确认具体配置、损失公式与优化流程。 作者报告,在 GZSL 基准数据集上,该确定性模型相对 deep calibration network(DCN)基线取得 21%–64% 的提升,并达到可与生成式方法相比的表现;摘要未说明该范围对应的指标、数据集及划分,不能将其理解为准确率提升的百分点。作者另报告,将该方法与 f-CLSWGAN 结合后,可获得与先进生成式模型相当的结果。上述性能主张仍需结合全文核对;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 任务具有可跨类别共享、且与信号可辨识性相关的语义描述,该框架可能用于探索未见任务类别识别,而非直接解决跨被试域偏移。可复用部分是原型匹配及三类信息约束,需改造 EEG 编码器与类别语义表示。低信噪比、被试及通道差异、小样本和语义距离与 EEG 分布不一致,都可能使迁移失败。一个小规模可证伪实验是在固定被试与通道条件下留出完整类别作为未见类,测试时同时包含已见与未见类别,对照同一原型基线及逐项加入损失的版本,分别报告两类识别表现。已有 EEG 相关工作尚未检索确认。
值得核对的是三类信息论损失如何分别约束已见样本与未见类别的关联、不确定性及语义保持,以及其相对 DCN 的收益能否在完整 GZSL 评估协议下成立;EEG 迁移价值尚未验证。
来源:OpenReview · State space models · openreview.net