通过广义 Laplace 活跃子空间实现可扩展的 AI 不确定性量化

基于摘要分析。研究针对神经网络全参数贝叶斯推断计算成本过高的问题，提出利用少量数据驱动曲率方向的低秩广义 Laplace 近似，在预训练权重附近构造局部高斯后验，以实现可扩展的不确定性量化。 核心机制：作者从由经验损失定义的广义贝叶斯后验出发，将局部近似限制在活跃曲率子空间内；保留方向上的后验方差具有闭式表达，先验方差通过经验贝叶斯程序校准。摘要比较了两种后验缩放：对应负对数似然求和的标准贝叶斯缩放，以及按数据量归一化经验损失的 mean-loss scaling。具体曲率估计、子空间求解和采样实现尚未验证。 作者报告，在所研究的回归问题中，标准缩放会使主要活跃方向的后验方差随数据量增加而收缩，为达到校准数据上的名义覆盖率，低秩框架可能需要纳入更多弱曲率方向。将后验样本经非线性网络传播后，这些额外方向可能降低预测区间的一致性，并使后验预测均值偏离预训练模型。作者报告，mean-loss scaling 可得到更稳定、维度更低的活跃子空间及校准且一致的预测区间。摘要未提供数据集、数据划分、名义覆盖水平、数值指标或计算成本，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：该机制可能用于 EEG 回归模型的不确定性评估，可复用预训练权重附近的低秩后验近似，但需针对相关时间窗、跨被试分布变化及低信噪比重新核对经验损失和校准方式；局部高斯近似未必能覆盖分布偏移带来的误差。一个可检验的小实验是在固定 EEG 回归模型及相同训练、校准、测试划分下，对比两种缩放的覆盖率、区间宽度、预测均值偏移与保留方向数，并单独报告跨被试结果。已有 EEG 相关工作尚未检索确认。