连续时间、连续空间稳态调节强化学习(CTCS-HRRL):迈向生物自主智能体
Continuous Time Continuous Space Homeostatic Reinforcement Learning (CTCS-HRRL) : Towards Biological Self-Autonomous Agent
基于摘要分析。本文研究智能体如何在连续时间、连续空间环境中学习维持内部稳态,将 Homeostatic Regulated Reinforcement Learning(HRRL)推广为 CTCS-HRRL。主要研究对象是模拟生物稳态调节的智能体及其决策行为,而非 EEG 解码或 BCI 控制。 机制方面,HRRL 将 Drive Reduction Theory(驱力降低理论)与强化学习联系起来。摘要称,既有研究已在离散时空中建立这一联系,本文则针对连续时空设计模拟生物稳态机制的模型,结合 Hamilton-Jacobi-Bellman 方程、基于神经网络的函数逼近与强化学习,学习随内部状态变化而调整的策略。具体内部状态变量、动力学、奖励定义、网络结构以及训练与求解流程尚未验证。 结果方面,作者报告,在仿真实验的连续时空环境中,智能体能够学习稳态调节行为,并动态选择有利于维持稳态的策略;作者据此认为 CTCS-HRRL 对动物动力学与决策建模具有潜力。摘要未提供可核对的定量指标、对照基线或仿真规模,实验协议、消融及统计信息尚未验证,不能据此判断其相对既有 HRRL 的性能优势或真实生物行为解释力。 复现评估需从全文核对连续状态空间与动作空间的定义、稳态目标的数学表达、方程求解方式和仿真条件。当前材料未建立与神经信号处理或 BCI 的具体机制对应关系,因此不提出 EEG 迁移效果或复现实验建议。
来源:OpenReview · State space models · openreview.net