CoordX:通过拆分式 MLP 架构加速隐式神经表示
CoordX: Accelerating Implicit Neural Representation with a Split MLP Architecture
基于摘要分析。本文研究图像、视频及 3D 对象的隐式神经表示中,坐标式 MLP 因需处理大量坐标点而产生的训练与推理计算开销,提出拆分式 MLP 架构 CoordX,以减少计算并保持与基线 MLP 相近的表示精度。 核心机制是将网络初始层按输入坐标维度拆分,分别学习各维度的特征,再由后续层融合中间特征,输出对应坐标点的信号值。其思路是先学习原始信号的分解函数,再通过融合重建信号,而非从初始层起联合处理所有坐标维度。具体融合算子、损失函数、训练配置及计算复用方式尚未验证。 作者报告,在图像、视频及 3D 形状表示与渲染任务中,相对基线模型最高获得 2.92 倍加速,并达到相近精度、无需额外内存开销。摘要未明确最高加速对应的任务、训练或推理阶段、硬件、数据规模及精度指标,因此不能将该数值视为所有任务的统一收益;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将 EEG 表示为时间与电极空间坐标到信号幅值的连续映射,可假设复用按坐标维度拆分及后期融合的机制,以降低密集信号重建的计算成本。该路径依赖可用的电极坐标与足够的时空采样监督,需要改造输入坐标编码及输出定义;低信噪比、非规则通道布局、跨被试差异和小数据条件可能削弱可分解性与重建质量。可先在固定被试、固定通道数据上,用相同训练点、留出点和硬件比较标准坐标 MLP 与拆分架构的重建误差、训练时间及推理耗时,检验加速是否以精度下降为代价。这仅是信号表示假设,不构成 BCI 解码效果证据;已有 EEG 相关工作尚未检索确认。
值得关注其按坐标维度拆分早期 MLP、再融合特征的计算加速机制;作者报告在隐式表示任务中获得加速,但其对 EEG 时空信号表示的适用性尚未验证。
来源:OpenReview · Representation learning · openreview.net