基于识别参数化概率模型的无监督表征学习
Unsupervised representation learning with recognition-parametrised probabilistic models
基于摘要分析。本文研究如何从观测数据中学习潜在结构,提出 recognition-parametrised model(RPM,识别参数化模型):以参数化先验、给定观测的潜变量分布及非参数观测边缘分布,构建观测变量与潜变量的归一化半参数联合分布,而不要求显式的参数化生成模型。 核心机制建立在“给定潜变量后,各观测条件独立”的假设上。RPM 通过识别模型捕获观测之间的潜在依赖;作者指出,即使识别模型采用表达能力较强的神经网络,离散潜变量情形仍可进行精确最大似然学习,并为连续潜变量情形提出近似方法。摘要未提供具体目标函数、近似推导及计算开销,相关性质的适用条件尚需正文核对。 作者报告了高维数据上的应用,包括利用弱间接监督学习图像分类、直接在图像层面进行 latent Dirichlet allocation,以及将 Recognition-Parametrised Gaussian Process Factor Analysis(RP-GPFA)用于多因素时空数据。摘要未给出数据集名称、划分方式、对照基线或量化指标,因此不能据此判断相对性能;实验协议、消融及统计信息尚未验证。 平台推测(待验证):假设多通道 EEG 的部分共同变化可由潜在时序因素解释,RP-GPFA 的识别建模与时序潜结构可能为表征学习提供候选路径。可考虑复用潜变量框架,但观测输入、时间尺度及噪声处理需按 EEG 特性改造;低信噪比、残余通道相关、跨被试差异和小数据均可能使条件独立假设或分布估计失效。一个可证伪的小实验是在固定被试内划分上,比较 RP-GPFA 与常规 GPFA 表征的冻结线性解码表现,并检验通道减少和加噪后的稳定性。以上不是论文已验证的 EEG 结果,相关 EEG 工作尚未检索确认。
值得关注 RPM 如何在不显式构建参数化生成模型的情况下学习潜在依赖结构,尤其是离散潜变量的精确最大似然学习及 RP-GPFA 的时空建模路径,但其 EEG/BCI 适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net