跳到正文
OpenReview · Representation learning·· 2026-09-19精选AI 评分74

挽救陷于错误决策区域内部的样本点:评估与改进 Forward-Forward 学习的目标

Rescuing Points Trapped Inside Incorrect Decision Regions: A target for Evaluating and Improving Forward-Forward Learning

AI 导读

研究关注 Forward-Forward 学习的表征评估:单一分类 Accuracy 能否揭示训练相对随机表征的实际贡献。作者提出基于 Boundary Proximity Index(BPI)的分析方法,追踪初始误分类样本与决策边界的距离及其被训练纠正的情况。本文基于摘要分析,未取得论文全文。 Forward-Forward 以逐层局部训练目标替代端到端反向传播,其变体常通过在所学表征上训练线性探针来评估。作者报告,在其考察的相同卷积架构上,随机、未训练权重产生的表征也能使线性探针获得明显高于随机猜测的 Accuracy;因此,仅看训练后探针的分数,可能高估学习方法本身的贡献。这里并非否定线性探针,而是强调需要随机表征参照及样本级分析。 BPI 是一种以类别质心参照进行归一化的多类别间隔指标。作者将分析用于七种 Forward-Forward 变体及相关逐层局部学习方法,并报告:初始误分类样本中,靠近探针决策边界的样本通常更容易被纠正,深入错误决策区域的样本则更难被纠正;不同方法的纠正比例差异明显,部分方法能够纠正相当一部分远离边界的错误样本。摘要未给出具体数据集、划分、Accuracy 数值或纠正比例,BPI 的精确定义、探针训练协议、消融及统计信息尚未验证。 平台推测(待验证):若用于 EEG 表征评估,可将“相同架构的随机权重表征—训练后表征”的探针对照与 BPI 分组结合,检查总体 Accuracy 提升是否覆盖原本难以区分的样本,而非只改善边界附近样本。假设其依赖的类别质心与间隔估计在 EEG 上足够稳定;低信噪比、被试差异及小样本可能破坏这一条件。可先在固定被试内划分下比较随机与训练表征,保持探针协议一致,检验初始 BPI 分组与纠正比例的关系;随后再评估跨被试适用性。该方法尚无材料支持的 EEG/BCI 效果,已有 EEG 相关工作尚未检索确认。

阅读价值

该研究以随机未训练表征为参照,分析局部学习究竟纠正了哪些初始误分类样本,为核查线性探针 Accuracy 是否充分反映训练贡献提供了具体评估视角。

来源:OpenReview · Representation learning · openreview.net