跳到正文
OpenReview · Representation learning· Victor Prokhorov; Ivan Titov; N. Siddharth·· 2023-01-01精选AI 评分74

用于表征学习的自编码条件神经过程

Autoencoding Conditional Neural Processes for Representation Learning

AI 导读

基于摘要分析。本文研究视觉数据中的 Conditional Neural Processes(CNPs)应当观测哪些像素,并提出 Partial Pixel Space Variational Autoencoder(PPS-VAE),将上下文作为潜变量,与 CNP 联合学习,以探索更有效的图像补全与视觉表征。 CNP 可根据部分位置的像素值,预测未观测位置像素值的分布。与随机选点或依据像素方差等简单统计量选择上下文的方式不同,PPS-VAE 使用摊销变分框架学习上下文。其关键问题不仅是选点能否改善拟合,还包括所选像素的空间排列及取值能否刻画图像信息;具体潜变量参数化、损失形式及选点实现尚未验证。 作者报告,在不同视觉数据的多项任务中,PPS-VAE 能促进更好的 CNP 拟合,并通过分布内与分布外分类评估,发现所学上下文包含有意义的图像信息。作者还报告,该模型支持动态调整上下文集合大小,并可扩展至更大图像。摘要未提供具体数据集、划分、对照结果或指标数值,实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可学习观测子集的机制可能对应 EEG 有限通道或有限时间采样下的信息选择问题。该假设依赖于将视觉任务中的“位置—观测值”结构改造为“通道/时间—EEG 信号值”,可考虑复用上下文潜变量学习框架,但需改造坐标表示、观测分布及时间依赖建模。低信噪比、通道布局变化、跨被试差异与小数据可能使选点偏向伪迹或被试特征。一个可证伪的小实验是在固定通道预算与相同被试划分下,对比学习选通道、随机选通道及简单统计选通道,分别检查信号重建和下游分类表现;原领域结果不等于 BCI 有效性,已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是将 CNP 的观测上下文作为潜变量联合学习,而非预先随机选点;这一机制为分析观测位置与表征信息的关系提供了具体路径,但其 EEG 适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net