ReLU 神经网络的空间折叠研究

基于摘要分析。本文研究 ReLU 神经网络如何将输入空间中的路径映射为激活空间中的几何结构，并提出量化空间折叠的度量。作者将其称为对这一现象的首次定量分析，并在 CantorNet 几何分析基准和 MNIST 图像分类基准上开展实证研究；摘要未提供具体实验数值。 核心机制是考察欧氏输入空间中的直线路径如何映射到 Hamming 激活空间。作者指出，映射后的路径通常失去原有凸性，呈现非凸折叠行为。为刻画这一变化，论文引入基于 range metrics 的度量，其思路类似随机游走研究中的相关度量；作者还报告给出了输入空间与激活空间之间凸性概念等价性的证明。该等价性的适用定义和条件，以及它与路径映射后非凸现象的关系，需结合全文核对，不能理解为网络映射必然保持凸性。 本文主要贡献属于 ReLU 网络表征的几何分析，而不是新的分类模型或状态空间模型。CantorNet 与 MNIST 的具体网络配置、路径采样方式、数据划分、对照、消融及统计信息尚未验证；摘要也不足以判断折叠度量是否解释泛化能力，或能否用于模型选择。 平台推测（待验证）：若该度量可在有限样本路径上稳定计算，它可能作为 ReLU EEG 解码器的表征诊断工具，用于观察扰动下的激活结构变化，而非直接提高解码性能。可复用部分是激活状态编码与折叠度量，需改造的是 EEG 路径构造：任意欧氏直线插值未必符合真实信号变化，低信噪比、通道差异和跨被试分布变化也可能主导度量。一个小规模可证伪实验是在固定被试内划分与同一 ReLU 解码器下，对测试 EEG 施加受控幅度扰动，检查折叠度量的变化能否稳定对应预测变化；若关系不稳定，则不支持其作为鲁棒性诊断指标。已有 EEG 相关工作尚未检索确认。