面向端到端限价订单簿建模的生成式 AI:使用深度状态空间网络的 token 级自回归消息流生成模型
Generative AI for End-to-End Limit Order Book Modelling: A Token-Level Autoregressive Generative Model of Message Flow Using a Deep State Space Network
基于摘要分析。该研究针对金融市场中逼真订单流的生成问题,提出端到端的 token 级自回归限价订单簿(LOB)消息生成模型,并由 Jax-LOB 模拟器解释生成消息、更新订单簿状态。核心贡献是将细粒度消息生成、订单簿状态与长序列建模连接起来,而非直接研究 EEG 或 BCI。 机制方面,模型使用简化的结构化状态空间层处理订单簿状态与 token 化消息序列,以提高长序列处理效率。作者为消息数据设计了定制 tokenizer,将连续数字分组转换为 token,方式类似大语言模型的数字序列表示。摘要未提供具体层结构、损失形式、训练规模或生成约束。作者将其称为首个此类端到端自回归生成模型,这一优先性声明尚未独立核对。 数据来自 NASDAQ 股票限价订单簿的 LOBSTER 数据。作者报告,在样本外评估中,较低的模型困惑度表明模型能够近似数据分布;生成订单流计算出的中间价收益率与真实数据显著相关,被作者解释为具有较好的条件预测表现。摘要未给出数值、股票覆盖范围、时间划分、预测范围或基线,实验协议、消融及统计信息尚未验证。作者还提出将模型用于高频金融强化学习的世界模型,并承诺开源代码;这不等于代码已经公开。 平台推测(待验证):可迁移的假设主要是利用状态空间层高效建模长时序,并通过自回归生成学习序列分布。其原始机制依赖结构化金融消息、数字 token 与模拟器状态更新;EEG 则通常是连续、多通道、低信噪比信号,不能直接沿用消息 tokenizer 或 Jax-LOB。若探索迁移,需要改造信号编码与解码模块,并核对长序列建模能否保留神经信号特征;跨被试差异、通道变化、小数据及量化误差均可能使该假设失败。一个可检验的小实验是在固定 EEG 数据与被试隔离划分下,仅替换相同生成框架中的序列骨干为该类状态空间层,对照生成质量、下游任务表现及计算成本。已有 EEG 相关工作尚未检索确认。
值得阅读的是其将 token 级自回归消息生成、长序列状态空间建模与订单簿模拟器连接的机制;作者报告的金融样本外结果尚不能证明其对 EEG/BCI 有效。
来源:OpenReview · State space models · openreview.net