用于神经网络集成的输入梯度空间粒子推断

基于摘要分析。本文研究如何提升神经网络集成的功能多样性及输入扰动下的稳健性，提出 First-order Repulsive Deep Ensemble（FoRDE）：利用粒子变分推断（ParVI），在各网络对输入的一阶梯度空间中实施排斥，而非直接在权重空间或函数输出空间中排斥。主要研究对象是图像分类和迁移学习任务，并非 EEG/BCI。 机制上，摘要指出，权重过参数化会降低权重空间排斥的效率，而直接函数空间排斥相较 Deep Ensembles（DEs）的改善有限。FoRDE 转而比较输入梯度；作者的理论动机是，输入梯度可在相差加性常数的意义下刻画函数，且其维度远小于网络权重。作者据此主张，梯度排斥可确保成员间的功能差异，并预期不同输入敏感性会促使成员学习不同特征。具体相似性核、损失形式、梯度计算方式及额外训练成本尚未验证。 作者报告，在图像分类数据集和迁移学习任务中，面对输入扰动导致的协变量偏移，FoRDE 的准确率与校准表现显著优于 DEs 及其他集成方法。摘要未提供数据集名称、数值、集成规模或显著性检验细节，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移机制是通过分散模型的输入敏感性，降低集成成员对同类扰动的共同脆弱性；假设这也可能缓解 EEG 解码模型对伪迹或通道扰动的共同依赖。可复用输入梯度排斥思路，但需适配 EEG 的时空结构、通道尺度和扰动定义；原方法的监督设置与数据规模尚未验证。低信噪比、小样本及跨被试差异可能使梯度多样性偏向噪声，而非有效神经特征。一个可检验的小实验是固定 EEG 解码骨干、集成规模与数据划分，对比 DEs 和 FoRDE 在干净输入及预设通道扰动下的 Accuracy、校准误差和训练成本。已有 EEG 相关工作尚未检索确认。