跳到正文
OpenReview · State space models· Samuel Yang-Zhao; Tianyu Wang; Kee Siong Ng·· 2022-01-01精选AI 评分75

使用逻辑状态抽象直接近似 AIXI

A Direct Approximation of AIXI Using Logical State Abstractions

AI 导读

基于摘要分析。本文研究如何在复杂、具有历史依赖和结构化特征的强化学习环境中近似 AIXI,将逻辑状态抽象与这一贝叶斯最优性框架结合,以扩展可近似建模的环境类别。主要研究对象是通用强化学习智能体,摘要所述实验任务为大规模接触网络上的流行病控制,并非 EEG 解码或 BCI 控制。 机制上,作者使用高阶逻辑定义和枚举非马尔可夫、结构化环境中的复杂特征,再通过改造状态抽象理论中的 Φ-MDP 优化准则,选择用于构造抽象状态的特征子集。在抽象状态序列上,方法利用适当推广的 Context Tree Weighting 实现精确贝叶斯模型学习;这一“精确”表述针对摘要中的模型学习步骤,不等于精确求解 AIXI。所得架构可与不同规划算法结合,核心关注点是状态表示、模型学习与规划之间的衔接。 作者报告,大规模接触网络上的流行病控制实验验证了智能体性能,但摘要未提供网络规模、观测与动作定义、奖励设置、对照基线或量化指标,故无法判断收益大小及计算代价。实验协议、消融及统计信息尚未验证;逻辑特征枚举的复杂度、特征选择开销与规划预算也需结合全文核对。 平台推测(待验证):若 BCI 闭环控制任务具有可明确表达的历史依赖及任务结构,逻辑状态抽象可能用于构建控制状态,而非直接替代 EEG 信号解码器。该假设依赖可用的交互历史、状态谓词和奖励反馈;可能复用特征选择与序列建模思路,但需改造神经信号到逻辑谓词的映射。低信噪比、跨被试差异及有限交互数据可能导致谓词不稳定或模型估计不足。一个可证伪的小实验是在固定解码器和规划预算下,对比近期观测状态与逻辑历史抽象的闭环仿真表现,并检验收益是否随观测噪声增加而消失。已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注其将高阶逻辑状态抽象、特征选择与贝叶斯序列建模组合起来处理历史依赖环境的机制,但摘要中的验证对象是接触网络上的流行病控制,不能据此认定其适用于 BCI。

来源:OpenReview · State space models · openreview.net