LM-Switch：通过变换词嵌入空间实现灵活的语言模型控制

LM-Switch 研究如何高效、灵活地控制通用 LLM 的生成条件，同时尽量保持原有生成质量；其核心贡献是在输出词嵌入空间部署线性变换，以实现轻量化的条件控制。基于摘要分析，未取得论文全文。 机制方面，作者通过分析 Hidden Markov Models（HMMs）的一种变体，发现其中不同条件可以解释为输出词嵌入空间的线性变换，并据此提出 LM-Switch。摘要描述了三种操作：缩放变换以连续调节控制强度，相加多个变换以组合条件，以及将已学习的变换迁移至不同规模的 LLM。该理论结论的成立条件、线性变换的具体参数化、训练目标及跨模型迁移所需的空间对齐方式尚未验证。 作者报告，在 LM detoxification（语言模型去毒化）和 sentiment control（情感控制）任务中，仅训练模型参数的 0.2%，即可取得与先进基线相当或更优的控制表现，并更好地平衡控制效果与生成质量。该比例指训练参数占比，不等同于计算量或推理延迟降幅。作者还报告可从少量句子或一篇文档学习控制变换，并迁移至不同规模的 LLM；摘要未提供数据集、模型名称、划分方式、基线名称、具体指标或迁移结果数值，实验协议、消融及统计信息尚未验证。 复现时值得重点核对控制强度与生成质量的权衡曲线、多条件相加的有效范围、少样本学习的稳定性，以及跨模型迁移的适用条件。摘要称将在发表后公开代码，当前代码可用性与发表状态尚未验证。本研究主要对象是文本生成控制，摘要未提供 EEG 或 BCI 验证；词嵌入条件控制也不能直接视为神经信号建模机制，尚未检索确认相关 EEG 工作。