跳到正文
OpenReview · Representation learning· Steven Braun; Sahil Sidheekh; Antonio Vergari; Martin Mundt; Sriraam Natarajan; Kristian Kersting·· 2025-12-31精选AI 评分75

基于概率电路的可 tractable 表征学习

Tractable Representation Learning with Probabilistic Circuits

AI 导读

基于摘要分析。本文研究概率电路(Probabilistic Circuits,PCs)中的表征学习,提出 autoencoding probabilistic circuits(APCs),通过联合建模数据与嵌入,以可 tractable 的概率推断获得嵌入表示,而非依赖外部神经嵌入或基于激活的编码。 核心机制是将 PC 编码器与神经网络解码器结合,并通过可微采样实现混合架构的端到端训练。摘要称,PC 编码器能够原生处理任意缺失数据模式;这一机制依赖 PCs 的精确、可 tractable 推断能力。具体联合分布形式、嵌入提取方式、训练目标与采样实现尚未验证。 作者报告,在其经验评估中,APCs 的重建质量优于现有基于 PC 的自编码方法,所得嵌入可与神经网络自编码器竞争,并在处理缺失数据时表现出更好的鲁棒性。摘要未提供数据集、划分、缺失机制、对照配置或量化指标,实验协议、消融及统计信息尚未验证。分布外检测与知识蒸馏是作者提出的潜在方向,不应视为摘要已验证的效果。 平台推测(待验证):若 EEG 通道缺失可被明确表示为输入变量缺失,APCs 的概率推断机制可能用于缺失通道条件下的表征学习。可考虑复用 PC 编码与可微采样机制,但需改造 EEG 时空输入表示及解码器;所需数据规模与监督条件尚不明确。低信噪比、通道相关性、跨被试分布变化及小样本训练可能削弱这种迁移,任意缺失模式的可处理性也不等于任意缺失机制下均能准确恢复。一个可检验的小实验是在固定被试内训练与测试划分下,对测试输入施加预定义的通道缺失,对比 APCs 与神经网络自编码器的重建误差及嵌入下游任务表现,并核对完整输入时的性能。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的具体原因是 APCs 将数据与嵌入联合建模,以可处理缺失数据的概率推断替代外部嵌入编码;其重建与缺失数据鲁棒性优势仍需结合全文实验协议核对,EEG 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net