叠加的涌现相：从部分表示到完全表示

基于摘要分析。该研究考察模型宽度与数据统计如何共同决定特征向量的叠加配置及损失，核心贡献是在 Anthropic 的叠加玩具模型中提出从部分表示到完全表示的连续相变，并用理论近似与实验研究其临界宽度及损失标度。 这里的叠加指通过表示向量相互重叠，在有限维隐藏空间中表示多于空间维数的特征。作者报告，在该玩具模型中，随着宽度增加，系统从仅部分特征具有显著表示向量、其余特征表示趋于消失的状态，转变为所有特征均被表示的状态。基于 partial random projection approximation，作者预测并通过实验确认：临界宽度随活跃特征数近似线性增长，同时带有对数因子修正。 作者报告，在临界宽度以下，损失随活跃特征数线性增长，对宽度的依赖较弱，具体形式由数据统计决定；在临界宽度以上，损失随活跃特征数近似二次增长，并与宽度近似成反比。这些结论均限定于摘要所述玩具模型及其分析条件，不应直接视为真实大语言模型的已验证标度律。作者还报告，非均匀特征激活概率会推迟相变并降低损失，频繁出现的特征占据更多表示空间。 摘要未提供模型完整定义、损失函数、数据生成分布、理论适用范围及实验规模；实验协议、消融及统计信息尚未验证。其主要研究对象是抽象特征的叠加表示，而非神经信号或 BCI。材料未建立玩具模型特征与 EEG 信号结构之间的具体对应关系，因此暂不提出 BCI 迁移实验；已有 EEG 相关工作尚未检索确认。