通过低秩空间采样实现高效数据集蒸馏

基于摘要分析。本文研究图像数据集蒸馏，提出 Matching Training Trajectories with Low-rank Space Sampling（MTT-LSS），通过低秩近似捕捉原始数据的多个低维流形子空间，以较小的合成数据集支持高效训练。 核心机制是利用这些子空间的基向量与共享维度映射器表示合成数据，而非将每张合成图像作为独立实体生成。作者将其价值归于利用样本间共性、减少信息冗余和降低单个数据点的生成成本。方法基于 Matching Training Trajectories，但具体轨迹匹配目标、子空间构建方式、秩选择及优化流程尚未验证。 作者报告，在 CIFAR-10、CIFAR-100 和 SVHN 图像数据集上，该方法相对基线平均提升 9.9%。摘要未明确该数值对应的评价指标、相对百分比或百分点，也未给出各数据集结果、合成集规模和具体对照，因此不能据此比较不同蒸馏预算下的效果。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 样本存在可共享的低维结构，低秩共享表示可能用于减少蒸馏样本的冗余；这是跨领域假设，并非本文已证实的 BCI 效果。可复用的是基向量、共享映射器及轨迹匹配思路，需改造的是适配 EEG 通道—时间结构的表示，并核对其标签监督和训练轨迹需求。低信噪比、跨被试差异、通道配置变化及小数据条件可能使共享子空间拟合噪声或丢失判别信息。一个可检验的小实验是在固定 EEG 数据集、相同合成样本预算及相同被试划分下，对照独立样本参数化与低秩共享参数化，比较分类指标和生成成本，并考察秩选择的影响。相关 EEG 工作尚未检索确认。