高斯边缘分布下任意偏置 ReLU 激活的不可知学习
Agnostic Learning of Arbitrary ReLU Activation under Gaussian Marginals
基于摘要分析。本文研究高斯边缘分布下、以平方损失为目标的单个任意偏置 ReLU 激活的不可知学习,即不要求数据标签能够由某个 ReLU 完全拟合。核心贡献是在这一设定中给出多项式时间统计查询(SQ)算法,并通过相关统计查询(CSQ)下界展示两类查询模型的能力差异。 作者指出,已有多项式时间算法的近似保证仅覆盖无偏置或偏置受限的情形。作者报告,新算法对任意偏置输出一个 ReLU 激活,其损失为 O(OPT) + ε,运行时间为 poly(d, 1/ε);其中 OPT 为最优 ReLU 激活所达到的平方损失,d 为输入维度。作者将其表述为该设定下首个常数因子近似保证;这一保证仍包含加性误差 ε,并非任意精度逼近 OPT。 在算法对照上,摘要将既有基于梯度下降的方法归入 CSQ 类,并报告不存在能够在该设定下实现常数因子近似的多项式时间 CSQ 算法。其意义在于刻画特定分布、目标函数与查询模型下的理论障碍,不能直接扩大为所有梯度下降方法或多层神经网络均无法学习的结论。 摘要未提供 SQ 查询的具体构造、查询容差、证明条件或实验细节,相关内容尚未验证。本文主要对象是单神经元学习理论,并非 EEG 或 BCI 方法;高斯边缘分布假设与实际 EEG 表征之间的对应关系尚未建立,不能据此推断神经信号解码收益。已有 EEG 相关工作尚未检索确认。
值得阅读之处是作者在单个任意偏置 ReLU 的不可实现学习问题上同时给出 SQ 算法保证与 CSQ 下界,为理解特定查询模型下梯度下降类方法的局限提供了可核对的理论切入点。
来源:OpenReview · Representation learning · openreview.net