表征坍塌的供需几何

基于摘要分析。本文研究 Joint-Embedding Predictive Architectures（JEPAs）中的表征坍塌：当中间表征已失去样本区分能力时，仅约束端点可能不足以预防或修复坍塌。作者提出 SADL（Supply And Demand Loss），根据表征路径可提供的容量，自适应地校正输出端需求。 机制上，SADL 将输出目标及实际端点几何产生的需求，与编码器激励和跨端点传输容量中较弱的一项进行比较，仅在需求超过供给时施加修正。摘要称，该方法可配合不同输出正则化函数使用，无需辅助网络、可学习门控或单独的调度策略。其与仅端点约束的核心区别，是显式考虑路径中的容量瓶颈；具体容量估计、损失形式及优化细节尚未验证。 作者报告，在涵盖单任务和四任务联合训练的 LeWorldModel（LeWM）与 INTACT 实验中，十个随机种子的坍塌测试里，坍塌率由 50% 降至 0%。相较对应的仅端点约束基线，使用 SADL 训练仅 1 个 epoch 后，编码器有效秩增至基线的 3.4–6.4 倍，潜变量预测误差降至基线的 1/20–1/303。在多种正则化函数下，作者报告 INTACT 的平均免搜索控制成功率超过 95%。在四个图像数据集、各含多个配对随机种子的评估中，作者报告代表性检查点上的准确率与稳定性均获得一致的逐种子改善，收益在训练早期最大。摘要未给出图像数据集名称、具体划分及准确率数值，实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 自监督预测中的退化确实源于中间表征容量不足，SADL 的路径供需校正可能具有迁移价值，但原论文主要验证对象是控制与图像分类，并非 EEG/BCI。可复用的是容量比较与单侧修正思路；配对视图、时序目标及容量估计需适配 EEG。低信噪比、通道差异和小样本可能使容量指标反映噪声或被试身份，而非任务信息。一个可证伪的小实验是在固定数据划分和配对随机种子下，比较 EEG JEPA 仅端点约束与加入 SADL 后的有效秩、预测误差和下游任务指标，检验秩提升是否伴随任务收益。已有 EEG 相关工作尚未检索确认。