跳到正文
OpenReview · Representation learning· Zhengda Qin; Badong Chen; Yuantao Gu; Nanning Zheng; Jose C. Principe·· 2020-08-01精选AI 评分71

用于凸通用学习机的概率密度排序量化

Probability Density Rank-Based Quantization for Convex Universal Learning Machines

AI 导读

基于摘要分析。本文针对凸通用学习机(CULMs)在复杂系统建模中因非线性映射层维度较大而产生的计算成本问题,提出 Probability density Rank-based Quantization(PRQ),通过按估计概率密度排序并选取数据子集,构建用于降低计算复杂度的码本。 PRQ 先估计数据的概率密度,再按密度排序,从排序序列中等间隔选取元素。作者将其应用于 kernel ridge regression(KRR)和 random Fourier feature recursive least squares(RFF-RLS),并借助 kd-tree 降低计算成本。作者称,该方法能够保持码本与原数据集的分布相似性,对给定数据集产生确定性的量化结果,同时排除离群点、避免码本中边界样本过多。摘要未交代密度估计方式、码本规模选择及其在两种算法中的具体接入方式。 作者报告,在若干真实世界基准数据集上,PRQ 相较部分先进方法取得了令人满意的表现;但摘要未提供数据集名称、划分协议、对照方法、具体指标或计算耗时,尚不能量化其性能与成本收益。实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 回归任务采用 KRR 或 RFF-RLS,PRQ 的代表性样本选取机制可能有助于压缩码本;这是假设,并非已验证的 BCI 效果。可复用密度排序与选样流程,但需适配 EEG 特征尺度及非平稳分布。低信噪比、高维通道特征和跨被试差异可能使密度估计失真,低密度但有任务价值的样本也可能被误排除。一个小规模检验是在固定 EEG 回归划分、相同码本规模下,对比 PRQ 与随机选样的预测误差、运行时间和结果稳定性。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是按估计概率密度排序并等间隔选取码本的确定性量化机制,可用于考察 CULMs 的计算成本与预测性能权衡,但其对 EEG 数据的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net