跳到正文
热点事件观察中

广义拉普拉斯活跃子空间不确定性量化

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

基于摘要分析。该研究针对神经网络全参数贝叶斯推断成本高的问题,提出低秩广义拉普拉斯近似:在预训练权重附近,以少量数据驱动的曲率方向构造局部高斯后验;保留方向的方差可闭式计算,先验方差由经验贝叶斯校准。 作者报告,在所研究的回归问题中,标准贝叶斯缩放随数据量增加压缩活跃方向方差,为满足校准数据的名义覆盖率可能需加入弱曲率方向,进而影响预测区间一致性并使预测均值偏离预训练模型;按数据量归一化的平均损失缩放则得到更稳定、低维的子空间及校准区间。 本次新增为摘要层面的机制与结果报道,未提供可核对的版本差异。数据集、划分、覆盖水平、数值指标、计算成本及实现尚未验证。平台分析:局部高斯近似对分布偏移的适用性仍需检验,目前不能据此确认其在EEG或跨被试场景中的有效性。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv · 学习目标与优化精选
    通过广义 Laplace 活跃子空间实现可扩展的 AI 不确定性量化

    基于摘要分析。研究针对神经网络全参数贝叶斯推断计算成本过高的问题,提出利用少量数据驱动曲率方向的低秩广义 Laplace 近似,在预训练权重附近构造局部高斯后验,以实现可扩展的不确定性量化。 核心机制:作者从由经验损失定义的广义贝叶斯后验出发,将局部近似限制在活跃曲率子空间内;保留方向上的后验方差具有闭式表达,先验方差通过经验贝叶斯程序校准。摘要比较了两种后验缩放:对应负对数似然求和的标准贝叶斯缩放,以及按数据量归一化经验损失的 mean-loss scaling。具体曲率估计、子空间求解和采样实现尚未验证。 作者报告,在所研究的回归问题中,标准缩放会使主要活跃方向的后验方差随数据量增加而收缩,为达到校准数据上的名义覆盖率,低秩框架可能需要纳入更多弱曲率方向。将后验样本经非线性网络传播后,这些额外方向可能降低预测区间的一致性,并使后验预测均值偏离预训练模型。作者报告,mean-loss scaling 可得到更稳定、维度更低的活跃子空间及校准且一致的预测区间。摘要未提供数据集、数据划分、名义覆盖水平、数值指标或计算成本,实验协议、消融及统计信息尚未验证。 平台推测(待验证):该机制可能用于 EEG 回归模型的不确定性评估,可复用预训练权重附近的低秩后验近似,但需针对相关时间窗、跨被试分布变化及低信噪比重新核对经验损失和校准方式;局部高斯近似未必能覆盖分布偏移带来的误差。一个可检验的小实验是在固定 EEG 回归模型及相同训练、校准、测试划分下,对比两种缩放的覆盖率、区间宽度、预测均值偏移与保留方向数,并单独报告跨被试结果。已有 EEG 相关工作尚未检索确认。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。