跳到正文

算法、任务与模态

PEFT 最新动态

PEFT 研究索引；按可核对的标签归档，不以热度评价质量。

126 条精选近 30 天 59 条共收录 144 条

更新

精选归档 · 第 7 页

1月1日周一第 121–126 条
  1. OpenReview · State space models76

    通过频率空间下缩放从后门投毒数据集中获得干净语言模型

    基于摘要分析。本文研究语言模型在后门投毒数据上训练时，如何抑制后门映射的学习，并提出 Multi-Scale Low-Rank Adaptation（MuScleLoRA），将频率空间的多尺度径向缩放、低秩适配与参数更新时的梯度对齐结合，用于减轻后门学习。 机制方面，作者报告，Fourier 分析显示，投毒数据中的后门映射相比干净映射更偏向低频，并具有更快的收敛速度。MuScleLoRA 据此通过频率空间下缩放，促使模型优先学习相对高频的干净映射。这里的“频率”描述的是论文所分析的语言模型映射，不能直接等同于 EEG 的时间频率或生理节律；频率空间的具体构造、缩放作用位置、梯度对齐目标及所需监督信息均尚未验证。 结果方面，作者报告，在多个数据集及多种后门攻击的评估中，平均攻击成功率降至 15% 以下，并可用于 BERT、RoBERTa 和 Llama2 等骨干语言模型。该数值对应摘要所述的多数据集、多攻击评估，并非单一攻击或单一数据集结果；数据集名称、攻击配置、投毒比例、对照基线、干净任务性能、消融及统计信息尚未验证。摘要称代码公开于 Anonymous，但当前材料未提供可核验的代码地址。 平台推测（待验证）：若 EEG 解码模型中的后门映射也呈现区别于正常任务映射的频谱偏好与收敛速度，这一机制可能为抗投毒训练提供假设。低秩适配和梯度对齐可作为候选复用模块，但需要重新定义 EEG 模型映射的频率表征，并核对对标签、干净参考数据及训练规模的依赖。直接抑制低频可能损伤真实神经信号，在低信噪比、跨被试、通道变化和小数据条件下也可能无法区分后门与任务特征。一个可证伪的小实验是在固定 EEG 数据划分与投毒条件下，先检验后门和正常任务映射是否存在所述频谱差异，再比较普通微调与改造版 MuScleLoRA 的攻击成功率及干净任务 Accuracy；若频谱差异不成立，迁移假设即不获支持。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其 Fourier 分析、频率缩放与梯度对齐之间的机制联系，以及降低后门攻击成功率时能否保留干净任务性能；摘要报告了跨语言模型骨干的效果，但尚不构成 EEG/BCI 防御有效性的证据。

9月23日周六
  1. OpenReview · State space models78

    LM-Switch：通过变换词嵌入空间实现灵活的语言模型控制

    LM-Switch 研究如何高效、灵活地控制通用 LLM 的生成条件，同时尽量保持原有生成质量；其核心贡献是在输出词嵌入空间部署线性变换，以实现轻量化的条件控制。基于摘要分析，未取得论文全文。 机制方面，作者通过分析 Hidden Markov Models（HMMs）的一种变体，发现其中不同条件可以解释为输出词嵌入空间的线性变换，并据此提出 LM-Switch。摘要描述了三种操作：缩放变换以连续调节控制强度，相加多个变换以组合条件，以及将已学习的变换迁移至不同规模的 LLM。该理论结论的成立条件、线性变换的具体参数化、训练目标及跨模型迁移所需的空间对齐方式尚未验证。 作者报告，在 LM detoxification（语言模型去毒化）和 sentiment control（情感控制）任务中，仅训练模型参数的 0.2%，即可取得与先进基线相当或更优的控制表现，并更好地平衡控制效果与生成质量。该比例指训练参数占比，不等同于计算量或推理延迟降幅。作者还报告可从少量句子或一篇文档学习控制变换，并迁移至不同规模的 LLM；摘要未提供数据集、模型名称、划分方式、基线名称、具体指标或迁移结果数值，实验协议、消融及统计信息尚未验证。 复现时值得重点核对控制强度与生成质量的权衡曲线、多条件相加的有效范围、少样本学习的稳定性，以及跨模型迁移的适用条件。摘要称将在发表后公开代码，当前代码可用性与发表状态尚未验证。本研究主要对象是文本生成控制，摘要未提供 EEG 或 BCI 验证；词嵌入条件控制也不能直接视为神经信号建模机制，尚未检索确认相关 EEG 工作。

    阅读价值：值得核对其从 HMM 条件建模到输出词嵌入线性变换的理论路径，以及低参数量控制、条件组合与跨模型迁移能否在保持生成质量的前提下复现；这些结论目前仅有摘要支持。

9月20日周三
  1. OpenReview · EEG72

    BELT-2：面向多任务脑解码的 EEG—语言表征自举对齐

    BELT-2 研究如何将 EEG 表征与语言表征对齐，并连接大语言模型（LLMs）以支持多任务脑解码；核心方法结合 BPE 级对齐、多任务 EEG 编码器与 prefix-tuning。基于摘要分析，未取得论文全文。 技术机制方面，作者采用 byte pair encoding（BPE）级 EEG—语言对齐，并在 EEG 领域联合进行多任务训练与解码；随后利用 EEG 编码器的中间输出，通过 prefix-tuning 连接 LLMs。该设计将 EEG 表征学习与语言生成接口结合，但摘要未说明 EEG 与 BPE 单元的对应构造、对齐损失、多任务的具体组成、LLM 型号，以及训练时哪些模块冻结或更新，相关细节尚未验证。 结果方面，作者报告在 ZuCo 数据集上获得 BLEU-1 为 52.2% 的解码结果，但摘要未提供数据划分、被试内或跨被试协议及对照基线，因此不能据此判断跨被试泛化能力。作者还报告在其他翻译基准上提升 31%–162%，但未明确基准名称、指标、对照方法及提升的计算口径，不能将其解释为准确率或百分点提升。作者声称该方法能够从非侵入式脑信号解码连贯、可读的句子，并声称相关设计具有首次性；这些主张尚需正文与既有工作核对。 复现时需核对 EEG 预处理、EEG—文本配对方式、训练与测试划分、多任务监督来源，以及文本生成阶段是否使用额外文本条件。尤其应区分 EEG 提供的信息与 LLM 语言先验对生成质量的贡献；摘要不足以确定这一贡献分解。实验协议、消融及统计信息尚未验证。摘要称代码可通过匿名链接获取，但当前材料未给出该链接，代码可访问性与复现条件尚未验证。

    阅读价值：值得阅读的具体原因是 BELT-2 将 BPE 级 EEG—语言表征对齐、多任务训练与 LLM prefix-tuning 结合，可用于考察语言先验与 EEG 表征对文本解码的各自贡献，但其评估协议与提升幅度仍需全文核对。

1月1日周日
  1. OpenReview · State space models75

    SVDiff：用于扩散模型微调的紧凑参数空间

    基于摘要分析。SVDiff 研究文本到图像扩散模型的个性化微调，针对多主体定制、过拟合及适配参数存储开销，提出微调权重矩阵奇异值的紧凑参数化方法，并引入 Cut-Mix-Unmix 数据增强及简单的文本驱动图像编辑框架。 核心机制是将微调对象限定为权重矩阵的奇异值，而非直接更新大量权重参数。作者认为，这种紧凑参数空间能够降低过拟合与 language-drifting（语言漂移）风险。Cut-Mix-Unmix 用于改善多主体图像生成，但其样本构造、监督方式及与微调过程的配合尚未验证；摘要也未提供具体损失、训练配置或图像编辑流程。 作者报告，相较于 vanilla DreamBooth，SVDiff 的参数数量约少 2,200 倍。该比较处于扩散模型个性化微调语境，摘要未交代参数计数范围，不能据此断言完整生成模型的总参数、存储体积或推理成本均缩减相同比例。图像质量、主体保真度、多主体组合效果及语言漂移的评估指标、数据划分、消融和统计信息尚未验证。 平台推测（待验证）：其可迁移价值主要在于奇异值微调这一参数高效适配机制，而非图像生成或 Cut-Mix-Unmix 本身。假设已有预训练 EEG 模型需要小样本跨被试或跨会话适配，可尝试复用权重矩阵的奇异值参数化；需另行确定适配层、任务监督及信号预处理。风险是固定的权重方向可能不足以表达被试差异与通道变化，低信噪比也可能使少量适配参数拟合噪声。可在固定被试划分和标注预算下，对照奇异值微调、全参数微调与冻结模型，核对任务指标、适配参数量及多次运行波动。上述仅为可检验假设，相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其通过微调权重矩阵奇异值压缩个性化适配参数的机制，但摘要中的参数优势不能直接等同于完整模型压缩或 EEG/BCI 适配收益。

  2. OpenReview · State space models74

    SharPT：共享潜在空间提示调优

    基于摘要分析。SharPT 面向大语言模型的参数高效任务适配，针对 Soft Prompt Transfer（SPoT）需要寻找合适源任务、选择成本较高的问题，从多个源任务共同学习共享潜在空间，以按实例生成 soft prompts，减少对单一源任务提示选择的依赖。 核心机制是：输入实例的嵌入查询共享潜在空间，得到基础技能向量，再由轻量提示生成器将其转换为 soft prompts，用于调节冻结模型。共享潜在空间与提示变换在源任务上端到端学习；迁移到目标任务时，骨干模型和共享潜在空间保持冻结，仅微调提示生成器。作者报告，该生成器参数量约为冻结骨干模型参数量的 0.3%；这一比例描述的是目标任务微调模块规模，不等同于整体训练或推理成本。 作者报告，SharPT 在 NLI、sentence completion、QA、conference resolution（原摘要用语）及 word sense disambiguation 等任务上优于此前的 soft prompt 方法，并在不同模型规模下取得与全模型微调有竞争力的表现。摘要未提供具体数据集、划分、指标、基线数值及模型规模，无法据此量化提升或判断统计显著性；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 预训练骨干支持提示注入，且多源 EEG 任务能够提供可共享的表征，实例条件化的提示生成机制可能用于低参数量的跨被试或跨任务适配。可复用的是共享潜在空间和轻量生成器的思路，需改造 EEG 实例编码及提示注入接口。低信噪比、通道差异和小样本可能使查询向量主要反映被试或设备特征，而非任务技能；原语言任务结果不构成 BCI 有效性的证据。可在固定 EEG 骨干、相同目标训练样本和跨被试划分下，对比共享潜在空间提示与静态 soft prompt，检验实例条件化是否稳定带来收益。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是其将多源任务知识组织为共享潜在空间、按实例生成 soft prompts 的迁移机制；作者报告仅微调约占冻结骨干模型参数量 0.3% 的提示生成器即可获得有竞争力的表现，但 EEG/BCI 适用性尚未验证。

1月1日周六
  1. OpenReview · State space models74

    面向对话状态跟踪的持续提示调优

    基于摘要分析。本文研究对话状态跟踪（Dialog State Tracking）模型在持续学习新领域或任务时的灾难性遗忘问题，提出参数高效的 Continual Prompt Tuning 框架，以任务专属提示参数保留既有能力，并促进任务间知识迁移。研究对象是对话系统，而非神经信号解码；标题中的 state tracking 也不表示本文提出了 state space model。 核心机制是冻结预训练骨干模型，仅为每个任务学习并存储少量 prompt token 的嵌入。为利用先前任务的知识，作者提出 continual prompt initialization、query fusion 和 memory replay；另以 memory-guided 技术利用后续任务知识，实现双向迁移。摘要未披露这些模块的具体计算方式、损失函数、记忆样本选择及训练与推理流程，尚不能判断其复现细节和资源开销。 作者报告，在对话状态跟踪的持续学习实验中，该方法相较于作者所称的先进基线表现出有效性与效率优势。摘要未给出数据集、任务顺序、划分协议、基线名称或具体指标数值；实验协议、消融及统计信息尚未验证，也不能据此量化遗忘抑制或迁移收益。 平台推测（待验证）：可检验的迁移假设是，在具有可供提示调优的预训练 EEG 骨干、明确任务边界及逐任务监督数据的条件下，冻结骨干并保存任务专属提示参数，可能帮助管理跨会话或跨任务更新。可复用的是参数隔离与记忆回放思路；需改造的是 EEG 输入侧提示注入、任务选择以及回放样本组织。低信噪比、被试与通道差异可能使冻结特征失效，小数据也可能导致提示过拟合。一个小规模验证可固定 EEG 骨干和数据划分，按会话顺序比较任务专属提示、共享提示与全量微调，在每次更新后复测旧会话，并记录新会话表现、旧会话性能变化及可训练参数量。该实验仅为平台提出的假设检验，不是论文已验证结果；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是冻结预训练骨干、按任务保存少量 prompt 嵌入以隔离遗忘，并结合双向知识迁移的持续学习机制；其在 EEG/BCI 中的适用性尚未验证。