跳到正文

算法、任务与模态

LLM 最新动态

LLM 研究索引；按可核对的标签归档，不以热度评价质量。

226 条精选近 30 天 104 条共收录 277 条

更新

精选归档 · 第 12 页

9月22日周五第 221–226 条
  1. OpenReview · EEG75

    DeWave：用于 EEG 到文本翻译的 EEG 波形离散编码

    基于摘要分析。DeWave 研究开放词汇 EEG 到文本翻译，针对现有方法依赖眼动注视或事件标记进行词级分割的问题，提出通过离散 EEG 编码与预训练语言模型对齐的框架，并探索不依赖词级顺序标记的整段信号翻译。 核心机制是使用量化变分编码器生成离散 codex 表征，再将编码序列与预训练语言模型对齐。作者认为，文本–EEG 对比对齐训练能够缓解眼动注视顺序与词语顺序不一致的问题，而具有不变性的离散 codex 可减少个体 EEG 差异带来的干扰。摘要未提供量化实现、损失函数、训练阶段或语言模型名称，上述机制的具体实现及各模块贡献尚未验证。 作者报告，在 ZuCo Dataset 上，DeWave 达到 41.35 BLEU-1 和 33.71 Rouge-F，对应此前基线分别为 40.1 和 31.7。摘要未交代这一比较的被试内或跨被试协议、数据划分与基线名称，因此不能据此判断跨被试泛化能力。另在不使用词级顺序标记的整段 EEG 翻译条件下，作者报告 20.5 BLEU-1 和 29.5 Rouge-1。两组结果的输入条件不同，且 Rouge-F 与 Rouge-1 的指标表述不同，不宜直接作等价比较。 阅读全文时需核对离散表征的不变性如何约束与评估、训练和推理各自依赖哪些文本或事件信息，以及整段信号的切分与对齐方式。被试数量、实验划分、消融、统计信息和复现资源尚未验证。摘要中的结果不能直接证明系统已具备自由表达场景下的实时 BCI 能力；作者关于整段翻译的“首次”主张也尚未独立核验。

    阅读价值：值得阅读的具体原因是 DeWave 将离散 EEG 编码与预训练语言模型对齐，并报告了不依赖词级顺序标记的整段 EEG 到文本翻译结果；其对跨被试差异的缓解程度及推理条件仍需全文核验。

9月20日周三
  1. OpenReview · EEG72

    BELT-2：面向多任务脑解码的 EEG—语言表征自举对齐

    BELT-2 研究如何将 EEG 表征与语言表征对齐，并连接大语言模型（LLMs）以支持多任务脑解码；核心方法结合 BPE 级对齐、多任务 EEG 编码器与 prefix-tuning。基于摘要分析，未取得论文全文。 技术机制方面，作者采用 byte pair encoding（BPE）级 EEG—语言对齐，并在 EEG 领域联合进行多任务训练与解码；随后利用 EEG 编码器的中间输出，通过 prefix-tuning 连接 LLMs。该设计将 EEG 表征学习与语言生成接口结合，但摘要未说明 EEG 与 BPE 单元的对应构造、对齐损失、多任务的具体组成、LLM 型号，以及训练时哪些模块冻结或更新，相关细节尚未验证。 结果方面，作者报告在 ZuCo 数据集上获得 BLEU-1 为 52.2% 的解码结果，但摘要未提供数据划分、被试内或跨被试协议及对照基线，因此不能据此判断跨被试泛化能力。作者还报告在其他翻译基准上提升 31%–162%，但未明确基准名称、指标、对照方法及提升的计算口径，不能将其解释为准确率或百分点提升。作者声称该方法能够从非侵入式脑信号解码连贯、可读的句子，并声称相关设计具有首次性；这些主张尚需正文与既有工作核对。 复现时需核对 EEG 预处理、EEG—文本配对方式、训练与测试划分、多任务监督来源，以及文本生成阶段是否使用额外文本条件。尤其应区分 EEG 提供的信息与 LLM 语言先验对生成质量的贡献；摘要不足以确定这一贡献分解。实验协议、消融及统计信息尚未验证。摘要称代码可通过匿名链接获取，但当前材料未给出该链接，代码可访问性与复现条件尚未验证。

    阅读价值：值得阅读的具体原因是 BELT-2 将 BPE 级 EEG—语言表征对齐、多任务训练与 LLM prefix-tuning 结合，可用于考察语言先验与 EEG 表征对文本解码的各自贡献，但其评估协议与提升幅度仍需全文核对。

1月1日周日
  1. OpenReview · Representation learning76

    面向信息检索的多变量表征学习

    基于摘要分析。本文研究信息检索中的稠密检索问题，提出将查询与文档分别表示为多变量分布，而非单一向量，并以负多变量 KL 散度计算相似度。主要贡献是将分布表征引入检索框架，并提供理论基础及高效检索的兼容性论述。 核心机制：常见稠密检索使用双编码器生成查询与文档向量，再以点积计算相似度。本文为简化计算并提高效率，假设表征服从多变量正态分布，训练大型语言模型输出均值与方差向量。由此，匹配依据从向量点积转为分布间差异。摘要未说明 KL 散度的方向、具体训练损失、方差约束及近似最近邻算法的适配细节，这些均需核对全文；不能直接将预测方差解释为经过校准的不确定性。 结果与证据边界：作者报告在多个数据集上开展广泛实验，相较有竞争力的稠密检索模型取得显著改进，并称该框架可无缝整合到现有近似最近邻算法中。摘要未提供数据集名称、划分、指标、具体基线、提升幅度或统计检验，因此无法判断收益大小及适用范围。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：假设分布表征能够描述 EEG 片段在嵌入空间中的变异，则可探索以分布匹配替代点积，用于 EEG 片段检索；这不是原论文验证的任务。可复用的是均值、方差输出及分布相似度计算，需改造的是文本编码器、EEG 输入处理和训练配对方式，原文监督方式与所需规模尚未验证。低信噪比、跨被试及通道差异可能使方差主要反映噪声，小数据下也可能估计不稳定。一个可检验的小实验是在固定被试内数据划分、编码器和训练预算下，对比向量点积与分布匹配的同类 EEG 片段检索性能，并检验方差输出是否带来稳定收益。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其以分布表征和负多变量 KL 散度替代向量点积的检索机制，以及与近似最近邻检索兼容的理论依据；其对 EEG 表征的价值尚未验证。

  2. OpenReview · State space models74

    SharPT：共享潜在空间提示调优

    基于摘要分析。SharPT 面向大语言模型的参数高效任务适配，针对 Soft Prompt Transfer（SPoT）需要寻找合适源任务、选择成本较高的问题，从多个源任务共同学习共享潜在空间，以按实例生成 soft prompts，减少对单一源任务提示选择的依赖。 核心机制是：输入实例的嵌入查询共享潜在空间，得到基础技能向量，再由轻量提示生成器将其转换为 soft prompts，用于调节冻结模型。共享潜在空间与提示变换在源任务上端到端学习；迁移到目标任务时，骨干模型和共享潜在空间保持冻结，仅微调提示生成器。作者报告，该生成器参数量约为冻结骨干模型参数量的 0.3%；这一比例描述的是目标任务微调模块规模，不等同于整体训练或推理成本。 作者报告，SharPT 在 NLI、sentence completion、QA、conference resolution（原摘要用语）及 word sense disambiguation 等任务上优于此前的 soft prompt 方法，并在不同模型规模下取得与全模型微调有竞争力的表现。摘要未提供具体数据集、划分、指标、基线数值及模型规模，无法据此量化提升或判断统计显著性；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 预训练骨干支持提示注入，且多源 EEG 任务能够提供可共享的表征，实例条件化的提示生成机制可能用于低参数量的跨被试或跨任务适配。可复用的是共享潜在空间和轻量生成器的思路，需改造 EEG 实例编码及提示注入接口。低信噪比、通道差异和小样本可能使查询向量主要反映被试或设备特征，而非任务技能；原语言任务结果不构成 BCI 有效性的证据。可在固定 EEG 骨干、相同目标训练样本和跨被试划分下，对比共享潜在空间提示与静态 soft prompt，检验实例条件化是否稳定带来收益。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是其将多源任务知识组织为共享潜在空间、按实例生成 soft prompts 的迁移机制；作者报告仅微调约占冻结骨干模型参数量 0.3% 的提示生成器即可获得有竞争力的表现，但 EEG/BCI 适用性尚未验证。

  3. OpenReview · State space models71

    大语言模型能够解释序列推荐器的潜在空间

    基于摘要分析。本文研究大语言模型能否理解基于离散 ID 的序列推荐器所学习的隐表示，提出 RecInterpreter，将用户交互序列表征转换为 LLM 可处理的输入，并通过生成物品文本描述检验其解释能力。主要研究对象是序列推荐与用户偏好表示，而非 EEG 或 BCI。 机制上，RecInterpreter 使用交互序列表征与文本叙述组成的多模态配对数据，通过轻量 adapter 将表征映射到 LLM 的 token embedding 空间。sequence-recovery prompt 引导 LLM 描述交互序列中的物品；sequence-residual prompt 则对比加入某个物品前后的序列表征，引导 LLM 识别该新增物品。后者提供了基于表征变化进行解释的具体机制，但摘要未说明 adapter 结构、损失函数、LLM 是否冻结及配对数据如何构造。 作者报告，在所述序列推荐实验中，RecInterpreter 使 LLaMA 能够理解基于 ID 的推荐器隐表示，尤其在 sequence-residual prompt 引导下表现更好；还可将 DreamRec 等生成式推荐器产生的 oracle items 具体化为物品。摘要未提供数据集、划分、对照基线、评价指标或分数，实验协议、消融及统计信息尚未验证。材料提供代码仓库地址，但代码完整性及复现条件尚未核对。 平台推测（待验证）：其配对表征—文本对齐机制，可能用于检验 EEG 编码器的隐表示是否保留可语言化的任务信息。该假设依赖可靠的 EEG 表征与文本监督；可复用 adapter 对齐思路，但需改造输入与解释目标，不能将添加推荐物品直接等同于 EEG 神经活动变化。低信噪比、跨被试差异、通道变化和小规模配对数据可能导致模型依赖文本先验而非信号。一个可证伪的小实验是在固定 EEG 编码器和跨被试划分下，比较真实配对与随机打乱配对的解释正确率，检验输出是否依赖 EEG 表征。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 RecInterpreter 将序列推荐器的隐表示映射到 LLM token embedding 空间，并通过序列恢复与序列残差提示检验其可解释性；作者报告的效果仍需结合完整实验协议核对，尚不能视为 EEG 表征解释能力的证据。

  4. OpenReview · State space models72

    基于属性判别潜在空间的语言去毒

    基于摘要分析。该研究针对 Transformer Language Models（LMs）可能生成侮辱、威胁和粗俗文本，以及既有去毒方法引入额外语言模型或扰动所带来的内存、计算与时间开销，提出 Attribute-Discriminative Language Model（ADLM），以属性判别潜在空间控制非毒性文本生成。 核心机制是使用投影模块和属性判别器，将原始 Transformer LM 的潜在空间映射到能够按文本属性进行区分的潜在空间，再利用该空间控制生成。与摘要描述的依赖额外 LMs 或扰动的方法相比，其设计目标是在较小内存与计算开销下实现属性控制。摘要未说明投影位置、判别器结构、损失函数、属性监督来源，以及原始 LM 是否冻结，这些实现条件尚未验证。 作者报告，ADLM 在去毒语言生成与对话生成任务上的性能和效率均显著优于基线。但摘要未提供数据集、数据划分、基线名称、毒性与生成质量指标、具体数值或资源测量条件，因此尚不能判断效果与效率收益的幅度及适用范围；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其属性判别潜在空间可作为 EEG 表征解耦的跨领域假设，例如区分任务属性与被试属性，但语言生成中的毒性控制并不等于跨被试 EEG 解码有效。可考虑复用投影模块与属性判别机制，编码器、监督目标和解码接口则需改造；原方法所需标签、训练规模与数据结构尚未明确。EEG 的低信噪比、小样本和通道差异可能使属性分离不稳定，或同时削弱任务信息。一个可证伪的小实验是在固定 EEG 编码器与相同 Cross-subject 划分下，对照有无属性投影的任务性能和被试属性可预测性，检验其是否减少被试信息且不损害任务解码。相关 EEG 工作尚未检索确认。

    阅读价值：值得关注其通过投影模块与属性判别器实现生成属性控制的机制；作者报告 ADLM 在文本去毒与对话生成中的性能和效率优于基线，但具体评估协议与开销尚未验证。