层级Token合并的无监督语法归纳

基于摘要分析。本文研究能否仅依靠压缩、在没有显式结构监督的条件下学习有意义的层级组合结构，并以无监督语法归纳作为可检验的研究对象。作者提出层级 Token 合并自编码器，通过递归合并相邻 Token 构建抽象表示，同时学习序列表示与层级结构。 机制上，模型通过变分信息瓶颈压缩整个序列，并使用动态规划对可能的二叉树进行边缘化。其关注点不只是重建输入，而是检验压缩过程能否形成符合语法的组合层级。针对训练不稳定问题，作者进一步将独立训练的模型通过无监督共识与蒸馏进行整合；具体目标函数、树结构计算开销及共识形成方式尚未验证。 作者报告，在具有歧义的合成语法任务中，模型在留出序列上的语法解析有效率为 93%，精确重建率为 93%；最强平凡基线的语法解析有效率为 42%。这两个 93% 对应不同指标，不应混同。该结果支持合成任务上的概念验证，不能直接外推至自然语言或神经信号。语法规模、序列长度、训练与测试划分细节、基线定义、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 能被表示为局部有序、具有可组合结构的片段序列，相邻 Token 的递归合并或可用于探索多时间尺度表征。可复用部分是层级合并与结构边缘化机制；需要改造信号分段、Token 表示和重建目标。原任务依赖离散合成语法及可核验的解析结构，而 EEG 的低信噪比、跨被试差异、通道空间关系及小数据条件可能使压缩优先保留伪迹或个体特征。一个可证伪的小实验是在固定数据划分、输入编码及相近压缩预算下，对比层级合并与非层级自编码器的重建和下游解码表现，并检验学习到的层级是否稳定。已有 EEG 相关工作尚未检索确认。