跳到正文
OpenReview · Representation learning· Xiaoyuan Cheng; Wenxuan Yuan; Yiming Yang; Yuanzhao Zhang; Sibo Cheng; Yi He; Zhuo Sun·· 2026-01-26精选AI 评分76

信息塑造 Koopman 表示

Information Shapes Koopman Representation

AI 导读

基于摘要分析。本文研究 Koopman 动力系统建模中如何学习合适的有限维表示,核心贡献是从信息瓶颈(IB)视角解释表示简洁性与表达能力的冲突,并提出显式平衡两者的信息论拉格朗日形式及相应算法。 Koopman 算子的无限维性质使有限维子空间的识别具有挑战。作者将这一困难联系到潜变量未能兼顾紧凑性与预测能力:潜变量互信息有助于促进简洁性,但过度追求简洁可能使潜空间坍缩到少数主导模态;von Neumann 熵则用于维持表达能力、抑制坍缩并鼓励模态多样性。摘要未给出互信息所涉及的变量、熵的具体构造、目标函数及估计方式,因此尚不能确定其实现细节与计算代价。 作者报告,该算法在多种动力系统上较现有 Koopman 学习方法取得性能提升,学习流形的可视化也与其理论预测一致。摘要未列出系统名称、数据规模、评价指标、对照方法及具体数值;实验协议、消融及统计信息尚未验证,稳定性与可解释性的具体评价依据亦需查阅全文。 平台推测(待验证):假设 EEG 的部分时序动力学能够由有限维 Koopman 表示近似,该方法对模态坍缩的约束可能有助于避免模型只保留强背景活动而忽略较弱的任务相关成分。可考虑复用其表示正则化思路,但需适配多通道观测、采样时间尺度与任务监督;原方法对连续轨迹、监督形式和数据规模的依赖尚未验证。低信噪比可能使模态多样性同时保留噪声,跨被试及通道变化也可能破坏共享动力学假设,小数据下的信息量估计可能不稳定。一个可证伪的小实验是:在固定被试内 EEG 训练与测试划分、相同编码器和预测任务下,对照基础 Koopman 模型与加入该信息论约束的版本,联合检查预测误差、潜表示模态多样性及任务信息保留情况,而非仅凭可视化判断有效性。已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其如何以潜变量互信息与 von Neumann 熵平衡 Koopman 表示的简洁性和模态多样性,但具体收益及其对 EEG 动力学建模的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net