通过双空间信息性匹配进行主动数据集蒸馏

基于摘要分析。本文研究视觉数据集蒸馏：将大型真实数据集压缩为可用于训练的紧凑合成数据集，并提出Active Dataset Distillation via Dual-Space Informative Matching（ACDD），根据合成数据在优化过程中的动态需求，主动选择用于匹配的真实样本子集。 机制上，ACDD包含相互关联的双空间主动循环（DAL）与蒸馏循环。DAL动态选择兼顾多样性与不确定性的样本，将其加入目标蒸馏池，再与蒸馏过程协同更新。相较于依赖预定义蒸馏池或同等对待所有真实样本的方法，其主要变化是让真实样本选择随蒸馏需求调整。摘要未说明“双空间”的具体定义、多样性与不确定性的计算方式、匹配损失及循环更新协议，这些细节尚未验证。 作者报告，ACDD在SVHN、CIFAR-10、CIFAR-100、TinyImageNet及ImageNet subset等视觉基准上优于所比较的SOTA方法，并将所需真实数据量降至原始数据集的20%–40%。摘要未给出各基准对应的比例、性能指标、合成数据规模或对照设置，因此不能据此量化性能增益，也不能将数据量减少直接等同于端到端计算成本下降。实验协议、消融及统计信息尚未验证；复现还需核对样本选择开销、训练预算和具体ImageNet子集构成。 平台推测（待验证）：若EEG任务具有可用于蒸馏的训练样本及可靠的表征或不确定性估计，动态蒸馏池可能用于缓解冗余试次带来的训练负担。可复用的是主动选择与蒸馏交替优化的框架；需改造的是适配EEG时序、通道结构及被试差异的双空间定义和合成数据约束。低信噪比可能使不确定性选择偏向伪迹，跨被试差异可能使多样性选择偏向被试身份，小数据也可能导致选择估计不稳定。一个可检验的小实验是在固定跨被试划分、合成数据量和训练预算下，对比动态选择与随机或固定蒸馏池，报告相同任务指标及选择开销，检验收益是否仍存在。已有EEG相关工作尚未检索确认。