跳到正文
OpenReview · Representation learning· Xian Wei; Hao Shen; Yuanxiang Li; Xuan Tang; Fengxiang Wang; Martin Kleinsteuber; Yi Lu Murphey·· 2019-01-01精选AI 评分73

通过联合字典学习实现可重建的非线性降维

Reconstructible Nonlinear Dimensionality Reduction via Joint Dictionary Learning

AI 导读

基于摘要分析。本文研究如何无监督地学习参数化低维表示,同时从该表示重建高维输入;核心贡献是在原始高维空间与低维表示空间联合学习字典,以连接非线性降维和重建,而非仅获得用于可视化的低维坐标。 方法假设高维数据及其低维表示具有相同或相似的局部稀疏结构。作者将相对于特定字典的稀疏表示视为平滑函数,构建从高维数据稀疏系数学习低维表示的编码—解码模块,期望在降维时保留原始数据结构,并支持从低维空间返回高维空间的可靠重建。摘要说明该模块为单层且可扩展至深层结构,但具体目标函数、优化方式和深层扩展的实验情况尚未验证。 作者报告,在合成数据与真实图像实验中,该方法在降维、重建和合成任务上具有较强竞争力与稳健性,包括严重损坏数据条件;作者还报告,相较传统 compressive sensing(CS)方法,其在二维/三维数据可视化等任务驱动问题及更低维空间下的重建中具有优势。摘要未提供数据集名称、损坏类型、划分、对照实现或量化指标,实验协议、消融及统计信息尚未验证,因此不能据此确定优势幅度或普适性。 平台推测(待验证):若 EEG 特征在高低维空间确有可共享的局部稀疏结构,该机制可能用于兼顾特征压缩与重建。可复用部分是联合字典与编码—解码框架;需要改造的是 EEG 输入表示、通道组织和重建评价,不能把图像上的抗损坏表现直接视为 EEG 去噪能力。低信噪比可能使字典学习到伪迹,被试及通道差异可能破坏共享结构,小数据也可能造成过拟合。一个可检验的小实验是在固定的被试内训练/测试划分下,仅用训练数据学习字典,以相同潜在维度比较该方法与 PCA 的留出重建误差及下游任务表现,并测试预先规定的噪声条件;相关 EEG 工作尚未检索确认。

阅读价值

值得阅读的具体机制是通过高维与低维空间的联合字典学习兼顾非线性降维和重建,但其共享局部稀疏结构假设及抗损坏表现能否适用于 EEG 尚未验证。

来源:OpenReview · Representation learning · openreview.net