SUGAR：用于 Matryoshka 表征蒸馏的频谱与几何感知对齐

基于摘要分析。本文研究如何将 Matryoshka Representation Learning（MRL）教师模型蒸馏为紧凑学生模型，同时保持不同嵌入维度下的语义与结构。作者提出 Matryoshka Representation Distillation 及 SUGAR 框架，面向传统单尺度嵌入蒸馏难以直接保留的多尺度嵌套结构。 MRL 使嵌入向量的前缀仍具有语义意义，因此推理时可截断表征，让同一模型适配不同维度预算。SUGAR 包含三个对齐目标：逐点语义保真、通过有效秩匹配进行频谱容量对齐，以及通过 Grassmannian alignment 保持全局子空间几何。其方法重点不只是匹配单个完整向量，而是兼顾压缩后表征的语义与整体结构；具体损失公式、各项权重和维度采样方式尚未验证。 作者报告，实验中的紧凑学生模型在多个嵌入维度下保持较强性能，并保留部署灵活性。摘要未提供具体数据集、教师与学生配置、评估任务、数值结果及对照基线，因而不能据此量化压缩收益或判断各对齐目标的独立贡献；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：假设已有可输出嵌套嵌入的 EEG 教师模型，该机制可能用于研究低维部署时的表征退化。可复用的是语义、有效秩与子空间对齐思路，需改造的是 EEG 编码器及其多维度蒸馏接口。低信噪比、小批量和跨被试分布差异可能使有效秩或子空间估计不稳定。一个可证伪的小实验是在固定教师、学生容量与跨被试划分下，对照单尺度蒸馏和 SUGAR 式多目标对齐，比较不同截断维度的同一任务指标及结构保持程度；这不是已验证的 EEG 效果，相关 EEG 工作尚未检索确认。