自预训练对医学时间序列诊断真的有用吗？

基于摘要分析。研究考察医学时间序列分类中，Transformer 从头训练与采用 Self-PreTraining（SPT，自预训练）初始化的差异，核心贡献是将初始化方式作为独立比较因素，并提出生物医学机器学习的初始化披露模板。SPT 在目标数据集本身进行掩码重建，不使用外部语料；原研究对象包括运动分类、可穿戴压力检测及基于步态的 Parkinson's disease 检测，并非 EEG 诊断或 BCI 解码。 技术与对照：作者在 CAMARGO、Non-EEG 和 Gait PD 三项任务上，比较相同架构从头训练与 SPT 初始化的表现，考察一至三层 Transformer，以及 point、block、column、mixed 四种掩码目标。该设计有助于区分架构差异与预训练初始化带来的收益，但掩码比例、重建损失、训练预算、模型选择及下游训练细节尚未验证。 结果：作者报告，在摘要所述任务、深度和掩码设置的比较中，SPT 未降低性能，Accuracy 最大提高 9.9 个百分点；多变量设置下的平均增益随掩码策略和深度变化，为 2.1–4.7 个百分点，且较深模型的增益更大。摘要未给出被试数、数据划分、各任务独立分数及不确定性，不能将这些数字视为跨被试或跨会话结果。实验协议、消融及统计信息尚未验证。 作者据此主张，SPT 是适合临床小样本场景的数据本地预训练方式，并认为初始化应纳入最低报告要求。其低成本、架构通用性以及初始化收益相对其他模型差距的普遍程度，仍需正文中的计算成本、对照和适用范围支持。 平台推测（待验证）：迁移假设是，目标数据集内掩码重建可为小样本 EEG 分类提供初始化，从而减少对外部数据的依赖。可复用预训练—下游训练流程，但需调整 EEG 的通道表示、时间掩码尺度和重建目标；低信噪比、伪迹、通道变化及被试差异可能使重建收益无法转化为解码收益。一个可检验的小实验是在固定跨被试划分下，仅用训练被试数据开展 SPT，与相同架构从头训练比较 Accuracy，并报告随机种子波动和额外训练成本。已有 EEG 相关工作尚未检索确认。