具有常数遗憾保证的线性上下文老虎机可扩展表示学习
Scalable Representation Learning in Linear Contextual Bandits with Constant Regret Guarantees
基于摘要分析。本文研究随机线性上下文老虎机中的表示学习,提出 BanditSRL,将可实现表示的学习、谱性质约束与探索控制结合,目标是改善探索—利用权衡,而非仅提高奖励预测能力。 核心机制:可实现表示要求能够精确预测任意上下文—动作对的奖励函数;摘要指出,具备 HLS 谱性质的表示还可支持 LinUCB 获得不随时间范围增长的常数遗憾。BanditSRL 通过新的约束优化问题学习兼具可实现性与良好谱性质的表示,再使用广义似然比检验利用所学表示、避免过度探索。摘要未提供 HLS 的数学定义、优化目标及检验阈值。 作者报告,在存在 HLS 表示的条件下,BanditSRL 可与任意无遗憾算法配合并实现常数遗憾;这是一项有条件的理论保证,不能理解为任意数据或任务上均成立。作者还报告,该方法可结合深度神经网络,朝向 HLS 表示的正则化在标准基准上有益。具体基准、比较方法、效果数值、实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将 BCI 自适应决策建模为以上下文特征选择动作、接收奖励反馈的老虎机问题,该工作的可复用部分是谱性质正则化与探索检验机制,而非直接的 EEG 解码器。迁移需重新定义上下文、动作和奖励,并核对线性奖励可实现性及 HLS 条件。EEG 低信噪比、通道变化、跨被试差异和有限反馈可能破坏这些条件。可先在固定被试与固定通道的简化模拟反馈环境中,对比同一基础算法加入与不加入该机制时的累计遗憾及探索次数,检验收益是否依赖谱条件;该实验不能替代在线 BCI 验证。已有 EEG 相关工作尚未检索确认。
值得关注的是将表示的谱性质与探索策略联合设计,并给出有条件的常数遗憾保证;其对 BCI 自适应决策的价值尚未验证。
来源:OpenReview · Representation learning · openreview.net