Caracal：状态空间模型中的非交换旋转

基于摘要分析。本文研究状态空间模型（SSM）中状态追踪能力与训练效率的矛盾，提出 Caracal：通过四元数组合非交换的 SO(3) 旋转，实现非对角状态转移，并构建结合状态空间对偶（SSD）训练效率的 SO3SSD。原论文主要面向形式化状态追踪、有限状态自动机及语言建模，并非 EEG 或 BCI 研究。 核心机制：摘要指出，SSM 可兼顾并行训练与固定内存解码，但对角状态转移限制状态追踪能力，无法解决 NC¹-complete 问题；SLiCE、DeltaProduct 等非对角模型扩展了这一能力，却面临稠密分块组合或逐 token 重复更新的训练开销。Caracal 利用 SO(3) 旋转的非交换性及四元数的组合结构，试图保留更强的状态表达能力，同时支持高效并行训练。具体参数化、控制信号构造、训练目标及理论成立条件尚未验证。 作者报告，Caracal 的状态追踪能力在理论上超过对角 SSM，并能以单层解决 A_5 benchmark；在所评估的并行模型中，其有限状态自动机任务平均 Accuracy 最高。作者还报告，在论文的语言模型比较中获得最低实测测试困惑度、具有竞争力的零样本 Accuracy，以及领先的 MAD 压缩和选择性复制结果。包含控制准备开销时，在 512K tokens、batch 为 1 的测试条件下，SO3SSD 比所有受测基线训练更快，相对最快基线达到 1.44 倍速度，即使递归基线使用更小状态。上述结论仅适用于摘要所述比较范围；数据集、划分、模型规模、硬件、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 任务需要追踪对事件顺序敏感的长程状态，非交换转移可能提供可检验的建模假设。可考虑复用旋转状态更新与并行计算机制，但需改造连续多通道 EEG 的输入编码和任务输出；低信噪比可能使控制信号不稳定，通道差异、跨被试偏移及小数据也可能削弱收益。一个小实验是在固定跨被试划分、相近参数量与训练预算下，对比 Caracal 与对角 SSM 的长窗口 EEG 分类表现，并扰动时间顺序，检验收益是否确实依赖顺序信息。相关 EEG 工作尚未检索确认，该方案不代表已证实的 BCI 效果。