跳到正文
arXiv · 架构与算子· Yiming Yao; Liang Zhao; Qingfu Zhang·· 19 小时前精选AI 评分76

基于有限离线数据的上下文偏好条件化 Pareto 集学习

In-Context Preference-Conditioned Pareto Set Learning from Limited Offline Data

AI 导读

基于摘要分析。本文研究有限离线数据条件下的多目标优化:在无法追加目标函数评估、已有数据稀疏覆盖决策与目标空间时,如何根据不同偏好直接生成相应的 Pareto 最优解。作者提出 in-context preference-conditioned Pareto set learning(ICPSL),旨在同时摊销逐偏好的解搜索与逐问题的模型构建成本。 核心机制是在大量、多样化的合成先验数据上预训练一个基础模型式超网络。面对未见问题时,超网络以该问题的离线观测为上下文,通过一次前向传播生成问题专属的偏好条件化 Pareto 解模型;随后可重复使用该模型,为任意偏好预测解,无须针对该问题重新训练或逐偏好搜索。其区别于摘要所述现有路径的关键,是将跨问题适配与跨偏好查询分为模型生成和模型复用两个阶段,而不只是直接输出有限个权衡解。合成先验的构造、偏好表示、训练损失与上下文编码方式尚未验证。 作者报告,在合成及真实问题实验中,ICPSL 能生成高质量 Pareto 解,并显著加速问题专属解模型的构建。摘要未给出具体任务、数据规模、评价指标、对照基线或耗时口径,因此尚不能量化质量与效率收益,也不能将模型构建加速等同于包含预训练成本的端到端加速;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若 EEG 系统配置可表示为决策变量,且已有配置与多目标测量值组成的静态数据,ICPSL 的机制可能用于查询准确性、延迟等目标之间的偏好权衡,而非直接承担 EEG 解码。迁移需改造决策约束、目标尺度及合成先验;低信噪比、跨被试或通道变化可能使观测目标不稳定,小数据则可能不足以识别可行权衡。一个可证伪的小实验是固定解码器与离线配置数据,在未见被试上比较 ICPSL 与逐偏好离线搜索的解质量、约束满足率及模型构建耗时,再用保留数据核验预测。该设想不是原文结果,相关 EEG 工作尚未检索确认。

阅读价值

值得关注其用预训练超网络将有限离线观测直接转换为偏好条件化解模型的机制,但解质量、构建加速及跨问题泛化范围仍需结合全文实验核对。

来源:arXiv · 架构与算子 · arxiv.org