随机初始化中的可解释模式揭示最终表征

基于摘要分析。本文研究神经网络在多种表征均能解决同一任务时，训练为何倾向于选择其中某一种。作者提出：初始 embedding 并非空白，而是包含“完整程度”不同的部分表征，训练更可能发展初始化时较完整的表征。 研究以最终表征具有清晰定义的算法玩具模型为对象，从初始 embedding 中提取可解释信号，用于评估候选表征的“完整程度”。作者报告，在 remainder equivalence、multi-digit XOR 等学习单一表征的任务，以及 modular addition 中存在多个冗余表征的情形下，初始信号较强的表征均更有可能在训练中被选中。摘要未提供概率数值、信号的具体定义或计算方式，因而尚不能判断预测强度及适用边界。作者还考察了 embedding 维度与表征及其初始完整程度之间的关系，但摘要未给出具体变化规律。 其主要价值是为表征形成提供初始化层面的解释视角，而非提出新的 EEG 解码方法。需进一步核对候选表征的界定是否依赖已知最终解、信号与最终选择的关联能否跨随机种子和任务保持，以及相关性是否得到干预实验支持；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 模型存在可明确界定的竞争性表征，可假设初始化信号有助于解释不同随机种子的训练差异。但原研究依赖结构清晰的算法任务与可解释候选表征，EEG 的低信噪比、跨被试差异及小数据可能使信号难以识别。可复用的是初始化信号与最终表征的关联分析框架，候选表征及度量需重新设计；小规模检验可固定同一 EEG 数据划分，仅改变随机种子，测试预先定义的初始化信号能否在独立种子上预测最终表征。已有 EEG 相关工作尚未检索确认。