Forward-Forward 算法用于自监督学习的研究

基于摘要分析。本文研究 Forward-Forward 算法能否替代反向传播来学习可迁移的自监督图像表征，比较两种训练方式的任务表现与表征空间特性；研究对象是图像表征学习，并非 EEG 或 BCI。 Forward-Forward 通过两次前向传播及逐层独立的损失函数训练网络，无需反向传播。研究在 MNIST、F-MNIST、SVHN 和 CIFAR-10 上，采用 rotation、flip、jigsaw 三种自监督任务进行比较。作者报告，在所研究配置中，Forward-Forward 在（自）监督训练阶段的表现与反向传播相当，但在全部所考察设置中的迁移表现明显落后。摘要未给出具体分数、迁移评估协议或统计检验，因此不能量化差距或据此判断统计显著性。 作者将这一现象解释为多个因素可能共同作用，包括逐层损失和 Forward-Forward 实现监督训练的方式；其表征分析认为，相较反向传播，Forward-Forward 更关注决策边界，并丢弃部分对当前决策非必要的信息，因而可能损害表征迁移。这是作者的解释，因果关系及相关消融尚未验证。网络配置、损失具体形式、数据划分及复现条件亦需查阅全文。 平台推测（待验证）：其逐层训练机制可用于检验 EEG 自监督学习中“预训练任务可解性不等于下游表征有效性”的假设。可复用的是训练范式与训练任务／迁移任务分开评估的思路；图像变换任务则需改造为符合 EEG 时序与通道结构的任务。低信噪比、跨被试差异及小数据可能使逐层目标保留伪迹、丢失弱判别信息。一个小规模检验是固定 EEG 编码器与数据划分，对比两种训练方式在同一自监督任务及冻结编码器后的跨被试下游任务上的表现。已有 EEG 相关工作尚未检索确认。