跳到正文
OpenReview · Representation learning· Shai Feldman; Stephen Bates; Yaniv Romano·· 2021-10-02精选AI 评分81

结合表示学习的校准多输出分位数回归

Calibrated Multiple-Output Quantile Regression with Representation Learning

AI 导读

基于摘要分析。该研究针对多变量响应的预测区域构造问题,将表示学习、多输出分位数回归与 conformal prediction 校准结合,目标是在满足用户指定覆盖概率的同时,得到形状灵活且信息量更高的预测区域。 方法包含两个部分:首先,利用深度生成模型学习具有单峰分布的响应表示,在该表示空间应用已有多输出分位数回归方法,再将所得区域变换回原始响应空间。作者认为,这种构造可形成任意形状的预测区域,突破既有方法的形状限制。其次,将 conformal prediction 扩展至多变量响应设置,对预测集合进行校准,使其达到预先指定的覆盖水平。生成模型类型、表示变换方式、训练目标及校准算法细节尚未验证。 作者报告,该覆盖性质对任意分布具有有限样本理论保证;摘要未说明保证所需的采样假设,也未区分边际覆盖与条件覆盖,需结合正文核对。作者还报告,在真实与合成数据实验中,所构造区域相较既有技术显著更小。具体数据集、样本量、划分、覆盖水平、区域大小度量、对照基线及统计信息尚未验证,不能据此量化改进幅度。 平台推测(待验证):若 EEG 应用需要预测多维连续目标而非离散类别,该机制可能用于构造联合不确定性区域;其依赖配对输入与多维响应,以及足够的训练和校准数据。可复用部分是响应表示学习、分位数区域构造与集合校准,需改造 EEG 编码器,并核对跨被试或跨会话分布变化下校准假设是否成立。低信噪比、小样本和复杂多峰响应可能导致表示失真或预测区域膨胀。一个可检验的小实验是在明确划分的 EEG 连续目标预测任务中,对比原始响应空间与学习表示空间的区域构造,在相同目标覆盖水平下评估实测覆盖率和区域大小,再单独考察跨被试偏移。相关 EEG 工作尚未检索确认。

阅读价值

值得阅读其将响应表示学习与多变量 conformal prediction 校准结合的机制,以核对复杂形状预测区域的构造方式、有限样本覆盖保证的适用条件及区域大小的比较协议。

来源:OpenReview · Representation learning · openreview.net