少即足够：利用稀疏自编码器在 LLM 特征空间中合成多样化数据

基于摘要分析。本文研究 LLM 后训练数据的多样性度量与合成问题，提出 Feature Activation Coverage（FAC），在可解释特征空间中衡量数据覆盖，并以此构建 FAC Synthesis，针对种子数据集尚未覆盖的特征生成合成样本。 核心机制是利用稀疏自编码器识别种子数据中的特征覆盖缺口，再生成显式体现这些特征的样本。相较依赖语言表面变化的文本多样性指标，该方法试图使数据选择与合成更贴近影响下游任务的内部特征。摘要尚未说明特征提取位置、稀疏自编码器训练方式、激活判定阈值、FAC 的具体定义及生成样本的质量控制流程。 作者报告，该方法在 instruction following、toxicity detection、reward modeling 和 behavior steering 等任务中均改善了数据多样性与下游表现；摘要未提供具体数据集、对照方法、数据预算或指标数值，不能据此判断收益幅度。作者还报告在 LLaMA、Mistral 和 Qwen 模型家族间识别到共享的可解释特征空间，并据此实现跨模型知识迁移；特征对齐方式、迁移方向及评估协议尚未验证。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可探索将“内部特征覆盖缺口”用于 EEG 训练样本选择，但这是假设，不是本文已验证的 BCI 贡献。原方法依赖可解释特征空间及按目标特征生成文本的能力；用于 EEG 时，可借鉴覆盖度度量，需重建信号表征与样本选择机制，不能直接沿用文本生成流程。主要风险是稀疏特征可能编码被试、通道配置或伪迹差异，而非任务相关信息，低信噪比与小数据也可能使覆盖估计不稳定。一个可证伪的小实验是在固定 EEG 编码器、相同标注预算及预先确定的跨被试划分下，比较特征覆盖驱动选样与随机选样的下游表现，并检查所覆盖特征是否主要关联伪迹或被试身份。相关 EEG 工作尚未检索确认。