LWM-TF：5G NR网格掩码预训练

基于摘要分析。本文研究如何直接从同时保留导频与载荷观测的接收 OFDM 网格中预训练通用无线表征，提出 LWM-TF：一个具有 9.58M 参数的因子化掩码自编码器。主要研究对象是无线接收信号，而非 EEG 或 BCI。 模型输入为 FFT 之后、信道估计之前的复数 5G NR 上行网格。每个模块先沿 OFDM 符号维度执行注意力，再跨资源块和接收天线执行注意力，掩码也沿这两个轴构造。针对载荷相位不可预测的问题，模型重建被掩码 token 的归一化对数功率，并单独预测尺度。作者报告，消融显示这两个目标互补，且优于复数信号重建；具体损失形式和消融数值尚未验证。 预训练使用由 NR 发射链在多种信道条件下仿真的百万时隙数据集，其中 850,496 个 PUSCH 时隙用于编码器预训练。下游冻结编码器，以线性探针完成调制分类、CRC 成功预测和 UE 移动性检测。作者报告，在独立生成的测试集上，每类使用 16 个有标签时隙时，三项任务分别达到 0.85 Accuracy、0.82 AUROC 和 0.73 AUROC，且每次配对抽样均优于监督 CNN。使用 10,000 个标签时，相应指标为 0.94、0.96 和 0.92，优于人工设计的接收机统计特征；该标签预算的具体分配尚未验证。对于未见波形损伤，在不使用损伤标签的条件下，冻结特征空间距离取得 0.78 macro AUROC，接收机统计特征为 0.68。 平台推测（待验证）：可迁移的机制假设是，对相位不稳定的 EEG 时频表示，分离学习归一化功率形态与尺度可能比复数重建更稳健。但无线网格具有明确的符号、资源块及天线结构，不能直接等同于 EEG 的时间、频率和通道结构。迁移需改造分词与注意力轴，并可能受低信噪比、跨被试幅值差异、通道布局及小数据规模影响。可先在同一 EEG 数据划分与标签预算下，对比功率与尺度双目标、仅功率目标和复数重建，冻结编码器评估跨被试线性探针。已有相关 EEG 工作尚未检索确认；完整实验协议、消融及统计信息尚未验证。