不止于状态容量：Mamba 的检索为何失效

基于摘要分析。该研究针对 Mamba 在上下文检索中落后于 Transformers 的问题，检验“固定大小递归状态容量不足”是否足以解释差距。作者报告，即使在查询先于上下文出现的 query-first retrieval 设置中，Mamba 仍明显落后，并将瓶颈指向相关性信息沿模型深度形成、传递与被选择门利用之间的错位。 机制分析分为两部分。首先，作者报告，仅干预特定选择门就能使准确率在极端水平之间变化，说明门控对状态更新具有足以影响输出的控制能力；摘要未提供具体数值和干预协议。其次，逐层 token 表征探查显示，token 与查询的相关性信号随深度逐渐出现，而选择门要再经过若干层才开始反映这一信号。作者报告，在对检索至关重要的层中，门控尚未与相关性对齐。因此，作者认为问题不只是能否保存信息，还包括选择机制在需要执行筛选时，是否已经获得可用的相关性信息。 这一解释针对的是查询已提前给出的检索任务，不能直接外推为所有长上下文任务的统一结论。具体模型版本、任务数据、训练设置、上下文长度、对照匹配、表征探查方式、消融及统计信息尚未验证，需结合全文核对。 平台推测（待验证）：假设 EEG 序列任务具有预先给定的目标提示，且需要从长序列中筛选目标相关片段，该分析可启发检查 Mamba 表征中的目标相关性是否早于关键门控决策形成。可复用逐层探查和门控干预思路，但需将 token 相关性改造为 EEG 时间片段与任务目标的相关性定义；低信噪比、跨被试差异和小样本可能使探针捕捉到伪相关。一个可证伪的小实验是在固定数据划分与模型容量下，比较相关性信号和门控对齐的层级位置，并检验干预相关层门控能否稳定改变检索表现。已有 EEG 相关工作尚未检索确认，这不构成已验证的 BCI 效果。