Smooth Sailing：通过表征平滑性分析改进预训练语言模型的主动学习

基于摘要分析。本文研究预训练语言模型（PLMs）主动学习（AL）中的实际障碍，重点是验证集难以获取以及有限微调能否带来标注收益。作者利用表征平滑性分析提出无需验证集的早停技术，并考察任务适应对 AL 的影响，旨在降低监督学习的标签复杂度。 作者报告，在多个数据集与 AL 方法上，所提方案相较随机采样取得显著改进；同时，任务适应能够改善 AL，而 AL 中常规的短时微调未优于随机采样。这些结果针对预训练语言模型任务，摘要未提供数据集名称、标注预算、评估指标、效应大小或显著性检验细节，不能据此量化收益，也不能将任务适应等同于增加微调轮数。 机制上，可确认的核心是以表征平滑性分析支持不依赖验证集的早停；平滑性的具体定义、估计方式、停止阈值、任务适应流程，以及该判据与样本选择策略的关系尚未验证。阅读全文时应重点核对停止判据所需数据、标签使用方式、随机采样对照的训练预算，以及不同 AL 方法下收益是否一致。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其潜在 EEG 对应问题是标注预算紧张时，如何在不额外划出验证集的情况下决定何时停止训练或标注。可考虑复用表征分析与停止决策思路，但需改造 EEG 编码器及平滑性估计所依赖的距离或邻域结构；摘要未说明这些估计对标签和数据规模的依赖。低信噪比、跨被试差异、通道变化与小样本可能使表征平滑性脱离分类效用。一个可证伪的小实验是在固定 EEG 任务、数据划分和标注预算下，对照随机采样及验证集早停，检验该判据能否以更少标签达到预设分类性能，同时记录停止波动。上述迁移并非本文已验证结果，已有 EEG 相关工作尚未检索确认。