表征之前的学习：面向有限配对监督下领域检索的瓶颈生成学习

基于摘要分析。本文研究领域文本或问答数据丰富、但高质量相关性配对有限时，如何将 LLM 适配为领域检索嵌入模型。作者提出 Learning Before Representation（LBR），先通过瓶颈生成学习（BGL）训练后续检索所使用的表征路径，再利用有限配对数据进行对比学习（CL）对齐。 机制上，BGL 将领域目标预测导向上下文化的瓶颈位置；随后，CL 将同一路径的最后一层读出对齐为序列嵌入，两个阶段均保留因果注意力。其关键区别是显式训练检索将使用的表征路径，而不只是先进行常规生成式适配。摘要未提供瓶颈位置构造、具体损失及读出实现，尚需正文核对。 作者报告，在 Medical、Chemistry 和 Code 领域，相较匹配的 no-cutoff 对照，LBR 的六指标平均值提高 27.3 点，并在三个公开检索基准上取得最高平均表现；指标构成、基准名称及该对照的具体设置尚未验证。在固定 100k 样本预算下，采用 60% BGL / 40% CL 的分配，作者报告 Recall@10 为 0.89，CL 单独训练为 0.73，标准 GL→CL 为 0.74；该结果对应的具体任务、数据划分和统计不确定性尚未验证，不宜外推至所有领域。作者另称 BGL 可使用无标签领域文本，并提供公开代码链接；代码完整性和复现条件尚未核验。 本文的主要对象是文本检索，不是 EEG/BCI 解码。平台推测（待验证）：其“先用丰富无标签数据训练下游实际读出路径，再以少量监督对齐”的机制可作为 EEG 表征学习假设，但需将文本目标、因果结构及读出方式改造成适合多通道时序信号的形式；低信噪比、跨被试差异、通道变化和小样本可能削弱收益。可在同一 EEG 数据划分与标注预算下，对比直接监督训练、常规自监督预训练及瓶颈路径预训练，检验该路径约束是否带来稳定增益。已有 EEG 相关工作尚未检索确认，原文的实验协议、消融及统计信息尚未验证。