IBNorm：面向表征学习的信息瓶颈启发式归一化

基于摘要分析。本文研究深度学习中的归一化能否在稳定训练之外，进一步控制表征对任务相关信息的保留，提出受 Information Bottleneck（信息瓶颈）原则启发的归一化方法族 IBNorm。其核心是引入有界压缩操作，鼓励嵌入保留预测信息并抑制无关变化；原论文研究对象是语言与视觉模型，并非 EEG 或 BCI。 机制与理论：作者将 BatchNorm、LayerNorm、RMSNorm 概括为侧重方差统计的归一化方法，并尝试以信息瓶颈视角补充这一目标。作者报告，理论分析表明 IBNorm 可获得更高的 IB 值和更紧的泛化界；但摘要未给出 IB 值的定义、压缩映射形式、证明条件及具体界，因此尚不能判断这些结论的适用范围，也不能将其理解为所有训练条件下均优于标准归一化。 实验与复现：作者报告，在 LLaMA、GPT-2 等语言模型以及 ResNet、ViT 等视觉模型上，IBNorm 优于 BatchNorm、LayerNorm、RMSNorm，并以互信息分析支持其信息瓶颈行为。摘要未提供数据集、任务、模型规模、评估指标、收益幅度或比较协议，实验协议、消融及统计信息尚未验证。作者表示将公开代码，当前材料不能确认代码已发布。 平台推测（待验证）：若有界压缩能够保留任务信息而减少干扰，其可能对应 EEG 中噪声和跨被试变化影响表征的问题，但原领域结果并不构成 BCI 有效性的证据。可尝试复用归一化操作，需适配 EEG 编码器的张量维度与归一化位置；低信噪比、小数据下，压缩也可能损伤微弱判别成分，且未必能处理通道差异。一个可证伪的小实验是在固定 EEG 编码器和 Cross-subject 划分下，仅替换归一化模块，以相同训练预算比较原有归一化与 IBNorm，并核对跨被试表现及噪声扰动下的稳定性。相关 EEG 工作尚未检索确认。