跳到正文
arXiv · 架构与算子· Sho Sonoda; Luca Galimberti; Yuanchao Xu; Isao Ishikawa; Masahiro Ikeda·· 3 天前精选AI 评分83

基于高斯加权 ridgelet 变换的无限维神经网络构造性通用逼近

Constructive Universal Approximation by Infinite-Dimensional Neural Networks via Gaussian-Weighted Ridgelet Transform

AI 导读

基于摘要分析。本文研究以函数为输入的无限维神经网络如何构造性地逼近连续映射,核心贡献是将 ridgelet 变换扩展到可分无限维 Hilbert 空间,为目标映射给出显式系数测度,而不只证明逼近网络存在。 机制上,作者以高斯权重及方向空间上的齐次混合替代无限维空间中不可用的 Lebesgue 测度。作者报告,该变换具有 Plancherel 恒等式,并给出包含框架算子及权重修正的重构公式;每个容许分析滤波器都对应一份目标映射的系数测度。相较于向有限维网络归约或依赖 Stone–Weierstrass 型稠密性论证,这一路径更直接地描述目标与表示系数的关系,但显式表示是否易于计算仍需核对正文。 理论结果分为两层:作者报告,对连续、非多项式且具有多项式增长的激活函数,包括 ReLU,可获得紧集上的一致逼近;进一步,在激活函数全局 Lipschitz、系数测度具有有限变差及二阶矩的条件下,通过对系数进行 Monte Carlo 采样,得到宽度为 N 的有限网络及不显含维度的 O(N^{-1/2}) 误差率。摘要未明确该误差率的范数、概率保证及常数依赖,不能将其直接解读为实际训练或泛化性能不受维度影响。 作者列出 Gaussian 目标与 neural-operator 层作为显式例子,并称配套 Lean 4 形式化提供机器核验的证明及其与手稿的对应说明;形式化覆盖范围尚未独立验证。本文主要是函数输入网络的逼近理论,并非 EEG/BCI 方法验证。数值实现成本、系数采样可行性及实验协议、消融与统计信息尚未验证,不能由通用逼近性质推导其在低信噪比或小样本 EEG 上有效。

阅读价值

值得核对其从目标函数显式构造系数测度的路径,以及有限宽度近似界对激活函数、系数矩条件和误差度量的依赖;这些条件决定了理论能否转化为可实施的算子学习方法。

来源:arXiv · 架构与算子 · arxiv.org