跳到正文
OpenReview · State space models· Mikael Henaff·· 2019-01-01精选AI 评分80

连续状态空间中的显式探索—利用算法

Explicit Explore-Exploit Algorithms in Continuous State Spaces

AI 导读

基于摘要分析。本文研究大规模或无限状态空间中的模型式强化学习(RL),提出将探索与利用明确分阶段的算法:维护与当前经验一致的动力学模型集合,通过寻找使模型间状态预测分歧较大的策略收集经验,再利用更新后的模型集合或探索所得经验进行决策。 理论方面,作者报告,在可实现性与最优规划假设下,算法能够以关于某种结构复杂度度量的多项式样本量找到近最优策略,并指出该复杂度在若干自然情形下较低。摘要未给出该度量的定义、具体样本界及适用情形,需结合正文核对,不能据此理解为对任意连续状态空间均有高样本效率保证。 实现方面,作者给出基于神经网络的实用近似,并报告了实际性能与样本效率表现。摘要未提供环境、模型结构、对照基线、评估数值或理论算法与近似实现之间的对应细节;实验协议、消融及统计信息尚未验证。 平台推测(待验证):若将 BCI 闭环自适应建模为具有可学习状态转移的序贯决策问题,模型间预测分歧可能作为主动探索的候选信号,但这不等于已验证的 EEG 解码改进。可复用部分是模型集合与分歧驱动的策略选择,需改造状态表示、动作与奖励定义,并加入安全探索约束;EEG 低信噪比、跨被试及跨会话漂移、小数据可能使预测分歧主要反映噪声而非可消除的不确定性。一个可证伪的小实验是在固定离线数据构建的闭环模拟环境中,以相同交互预算比较分歧驱动探索与随机探索的策略回报和动力学预测误差;模拟结果不能替代真实 BCI 验证。相关 EEG 工作尚未检索确认。

阅读价值

值得核对其以动力学模型预测分歧驱动显式探索的机制,以及近最优策略样本复杂度所依赖的可实现性与最优规划假设;摘要尚不能支持其在 BCI 中的有效性。

来源:OpenReview · State space models · openreview.net