跳到正文
OpenReview · Representation learning·· 29 天前精选AI 评分84

动作的时序结构决定预测式世界模型的表征可辨识性

Temporal Action Structure Controls Representation Identifiability in Predictive World Models

AI 导读

基于摘要分析。本文研究行为策略的动作时序结构如何影响预测式世界模型的表征可辨识性:即使动作边际频率相同,动作的组合方式也可能决定预测目标偏好线性状态坐标,还是同一状态的可逆非线性重参数化。核心贡献是给出相应的谱隙判据,并通过理论构造和受控视觉实验检验其影响。 在平稳高斯受控世界中,作者以最难预测的线性方向与最易预测的二次特征之间的谱隙刻画这一选择。作者报告,在全部标准化平方可积编码器构成的函数类上,正谱隙使状态坐标在旋转不确定性之外唯一可辨识,并约束近最优解;负谱隙则允许任意接近、光滑且条件良好的非线性变换改善预测目标。 为分离边际统计与时序结构的作用,作者构造了两个长度为五的动作序列全支持分布:二者匹配任意至多三个位置间的相互作用及完整线性预测算子,但谱隙符号相反。作者报告,该分离在非线性高斯平稳动力学中仍然存在;另一构造则表明,精确的边际高斯化通常不足以保证目标坐标的恢复。 在受控视觉世界中,作者报告有限样本谱学习和一个参数量为 689K 的 CNN 均从图像中恢复了理论预测的坐标切换。同一环境下,已发布的 LeWorldModel 预测器模块能够保留并利用这些坐标;在为两种表征分别配置新预测头、且预测头均等覆盖全部 32 种动作序列后,两种表征的归一化动作选择遗憾分别为 0.073 和 0.366。摘要未明确两项数值各自对应的表征条件,不宜补充归属或解释为一般任务性能。作者还利用同一谱隙提出了面向序列结构的行为设计半定规划。 结论依赖受控动力学与表征标准化等理论前提,视觉结果的外部有效性仍需核对。实验划分、目标函数细节、消融及统计信息尚未验证;摘要不足以确定完整复现条件。材料未提供 EEG 或 BCI 实验,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其将动作时序结构与表征可辨识性联系起来的谱隙条件,以及在受控视觉世界中对坐标切换和动作选择影响的验证;这些结论尚不能直接外推到 EEG 或 BCI。

来源:OpenReview · Representation learning · openreview.net