跳到正文
只看学习与优化#PEFT
10月6日周二
  1. arXiv · EEG 与神经表征80

    CogAdapt：认知信息引导的代码 LLM 稀疏适应

    基于摘要分析。研究针对代码 LLM 微调成本较高的问题，提出 CogAdapt：利用人类阅读代码时的 EEG 与注意数据，学习程序级和 token 级认知先验，并据此选择性更新模型，以兼顾代码生成性能与适应参数规模。 核心机制是将可迁移的认知先验与冻结模型对各编码任务的响应相结合，决定适应规模及需要更新的 transformer blocks；微调期间仅更新选定模块，推理时不需要新增人类记录。与摘要所述通常更新较大部分模型的人类认知对齐方法相比，其重点不是仅用认知信号指导学习内容，而是进一步指导更新位置和规模。先验的具体学习目标、EEG 预处理、注意数据获取方式及模块选择规则尚未验证。 作者报告，在 Qwen 和 GLM 上，人类阅读行为与 Mixture-of-Experts（MoE）计算表现出一致对应关系。作者报告，CogAdapt 在 LiveCodeBench 和 BigCodeBench 的所比较设置中取得最佳 pass@1；其中在 LiveCodeBench 上，相较匹配的常规微调，提升分别为 10.86 和 6.29 个百分点，同时可参与梯度更新的适应参数减少 86.21–87.21%。摘要未明确各数值对应的模型配置，也未提供绝对 pass@1、数据划分或统计不确定性；参数减少不能直接等同于训练时间、显存或总计算成本同比下降。 该工作将 EEG 作为代码模型适应的认知指导信息，而非直接研究 BCI 解码。关键核对事项包括认知先验跨程序、任务及被试的可迁移性，认知信号相对纯模型响应选择策略的增益，以及匹配微调的参数预算和训练预算。被试数量、记录协议、训练与评估划分、消融、统计信息及代码可用性尚未验证，不能据此推断其适用于其他 EEG 任务。

    阅读价值：值得核对其如何将 EEG 与人类注意数据转化为代码模型的稀疏适应先验，以及性能提升和可参与梯度更新的参数减少能否在匹配微调协议下复现；这并非 EEG 解码性能的验证。

10月5日周一
  1. arXiv · 时序与音频基础模型78

    Anlu：通过反事实监督使基础模型具备上下文时序异常检测能力

    基于摘要分析。Anlu 研究时序异常检测（TSAD）中异常判定依赖运行状态的问题：同一查询序列中的模式，在不同正常规则下可能具有不同标签。其核心贡献是通过反事实监督训练模型利用参考序列，并在推理时保持模型参数固定，实现参考条件化的上下文学习（ICL）。 机制上，训练将同一查询与两条支持不同正常规则的参考序列配对，分别提供对应标签。在两组标签不一致的位置，忽略参考的检测器无法同时拟合两个目标，从而约束模型学习参考与异常判定之间的关系。Anlu 在一个已针对异常检测预训练、参数冻结的时序基础模型（TSFM）上添加参考记忆和零初始化门控适配器；具体记忆结构、适配器配置及损失形式尚未验证。 作者报告，在 350 条 TSB-AD-U 评估序列上，Anlu 将冻结 TSFM 的平均 VUS-PR 从 0.542 提升至 0.607；将参考替换为全零后，Anlu 的分数降至 0.499。这一干预结果支持模型预测依赖参考输入，但尚不能据摘要确定参考质量、参考分布变化及不同异常类型下的稳健性。训练数据、参考构造与选择方式、数据划分、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 异常标签确实随被试或状态对应的正常规则变化，该机制可能帮助缓解固定异常标准难以跨被试或跨会话适用的问题。可复用的是反事实配对监督与参考条件化机制；需改造参考记忆以处理 EEG 通道布局、采样率及伪迹。其前提是能够构造可信的参考及条件标签，低信噪比、参考受污染和小数据可能使模型学习伪相关。一个可检验的小实验是在具有明确状态标签的 EEG 数据上，对同一查询配置两种参考，比较正确参考、交换参考和全零参考下的预测及条件标签一致性。该实验仅为迁移假设，不构成已验证的 EEG 效果；已有 EEG 相关工作尚未检索确认。

    阅读价值：反事实监督为检验异常检测器是否真正利用参考序列提供了明确机制，作者报告的参考置零结果也使其上下文依赖性具有可核对的实验线索。

10月4日周日
  1. arXiv · 学习目标与优化75

    PWM：通过在线强化学习实现个性化世界模型

    基于摘要分析。该研究针对预训练世界模型难以根据用户短视频定制特定场景、同时保持动作条件生成质量的问题，提出 Personalized World Models（PWM），通过在线强化学习学习场景专属适配器，并引入 PWM-Bench 评估场景定制效果。 机制上，支持轨迹及其对应控制信号为当前策略采样的续接提供奖励反馈。GRPO 实现使用场景外观、视觉连续性与运动的统一奖励，更新紧凑的 LoRA 适配器；Yume-5B 主干保持冻结，并以基础策略锚定约束对预训练生成先验的偏离。作者还采用 DiffusionNFT 作为另一种奖励引导优化方法，学习同类场景专属适配器。摘要未给出奖励计算、锚定形式、在线采样预算及适配器配置，尚不能判断各部分的独立贡献。 PWM-Bench 包含 Indoor、Outdoor、Gaming 三个领域的 150 个定制任务，采用留出续接上的配对评估。作者报告，相对于原生 Yume，GRPO 与 DiffusionNFT 实现分别在所评估场景的 71.3% 和 65.3% 上改善定制效果，且三个领域的平均增益均为正；这些比例是改善场景的占比，不是 Accuracy 或增益百分点。作者报告，在匹配的 SFT 对照中，GRPO 实现在每个领域都获得更高的平均定制增益及更好的平均图像质量评分，同时帧级视觉质量接近预训练模型。具体评分定义、任务划分、SFT 匹配条件、消融及统计信息尚未验证。 平台推测（待验证）：其“轻量适配与先验保持”的思路可能启发 EEG 个性化，但这仅是假设。原方法依赖视频支持轨迹、控制信号及视觉奖励，不能直接视为 EEG/BCI 证据；摘要也不足以建立可直接复用的 EEG 奖励与生成机制。跨领域迁移需另行评估低信噪比、被试差异及小数据条件下的适配稳定性，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其通过奖励引导的 LoRA 适配与基础策略锚定平衡场景个性化和生成质量的机制，以及在留出续接上的配对评估和匹配 SFT 对照；具体奖励设计与实验协议仍需全文核对。

10月3日周六
  1. arXiv · 多模态与生成机制75

    通过扩散模型的 PAC-private 适配保护图像合成中的敏感数据

    基于摘要分析。该研究针对扩散模型在敏感数据上训练或适配后仍可能遭受重构攻击的问题，提出 PAC-private 适配框架：先学习紧凑的适配组件，再在优化完成后一次性加入经校准的噪声，以降低隐私保护对生成效用的影响。 机制上，摘要将重构隐私（RP）描述为限制攻击者对敏感数据的后验分布相对于先验的变化；差分隐私（DP）则通过约束单条记录变化对输出的影响提供保证。作者认为，DP 与 RP 的间接联系是效用损失的重要来源，而 PAC-privacy 直接约束相对于先验的后验优势，更直接对应 RP。具体方法使用 LoRA 或 Textual Inversion 学习数据依赖的紧凑扩散模型组件，再根据机制重复输出的协方差校准各向异性高斯噪声。不同于 DP-SGD 在训练中反复裁剪梯度并注入噪声，该方法仅在优化后扰动已学习组件一次；作者据此强调可避免梯度更新之间的隐私组合。 作者在少样本概念个性化与全数据集图像合成任务上报告：在达到相同重构隐私的比较前提下，所提方法比 DP 更好地保留主体身份、生成质量及下游分类 Accuracy。摘要未提供数据集名称、样本规模、具体分数、攻击者先验与能力、隐私参数或基线配置，实验协议、消融及统计信息尚未验证。复现时需重点核对重复机制输出的采样方式、协方差估计成本、噪声校准条件，以及两类方法的 RP 等价性如何建立。 平台推测（待验证）：若 EEG 生成模型也通过紧凑适配组件学习敏感被试数据，可假设借用“适配后一次性扰动”的路径，但需要改造生成骨干、条件输入及重构攻击评估。低信噪比、小样本和被试差异可能使协方差估计不稳定，或使隐私噪声破坏任务相关特征。可先在固定 EEG 数据划分与攻击协议下，对比未保护适配、PAC-private 适配和 DP 适配，联合评估重构风险与下游分类 Accuracy；图像领域结果不构成 EEG/BCI 有效性证据，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其如何将重构隐私目标转化为低维适配组件的一次性噪声校准，以及与 DP 方法比较时重构隐私水平是否按一致协议评估。

  2. arXiv · 多模态与生成机制80

    FADE：基于帧感知 Diffusion Transformer 的多概念擦除与视频遗忘

    基于摘要分析。该研究针对 Text-to-video（T2V）扩散模型的概念擦除问题，提出 Frame-Aware Diffusion Erasure（FADE），旨在同时移除多个指定概念并保留非目标生成行为。其关注的关键问题是：忽略帧差异的抑制可能让已擦除概念在个别帧中重新出现，而视频片段级平均指标可能掩盖这种残留。 机制上，FADE 先对 key/value 执行联合闭式编辑以抑制全部目标概念，再训练各概念专属的帧感知低秩适配器，通过帧索引与去噪时间步控制适配强度，清除逐帧残留。训练每个适配器时，将其他目标概念的提示词作为困难负例，以分离不同适配器的概念特异性成分；推理时由基于相似度的软路由器根据提示词组合适配器。具体编辑公式、损失、路由相似度定义及训练成本尚未验证。 作者报告，在单个 Wan2.1-T2V-1.3B 骨干上同时擦除涵盖物体、艺术风格与裸露内容的 16 个概念后，物体基准的残留 Accuracy 为 4.9%，八种基线中最强者为 15.5%；VBench 平均值与未编辑模型的差异保持在 0.9% 以内。这里的残留 Accuracy 用于衡量擦除后目标概念的残留，不能视为一般任务分类性能；摘要未说明 VBench 差异的具体计算口径。作者还报告，VLM 评判与盲法人类研究下方法排名不变，相对最强基线的优势延续至多目标组合提示词、同时擦除 30 个名人身份，以及 Wan2.1-T2V-14B、CogVideoX-2B 和 HunyuanVideo-1.5。 复现时应重点核对逐帧与片段级指标的关系、目标及非目标提示词划分、残留判定阈值、基线配置，以及闭式编辑、帧感知门控、困难负例和软路由各自的贡献。实验协议、消融及统计信息尚未验证。该研究的直接证据限于视频生成模型遗忘，不能据此推导 EEG/BCI 中的身份信息去除或隐私保护效果；相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其逐帧概念再激活评估与多概念适配器隔离机制：作者报告在同一视频生成骨干上兼顾概念擦除和非目标生成质量，但具体评估协议与统计可靠性尚未验证。