跳到正文
#PEFT
10月9日周五
  1. arXiv · 时序与音频基础模型73

    AdaCast：用于自适应时间序列预测的条件参数生成

    基于摘要分析。AdaCast 针对时间序列基础模型（TSFM）的静态适应问题，提出条件参数生成框架：根据每个输入生成低秩参数更新，使冻结的预训练模型能够针对不同时间模式、季节性与动态特征进行预测。 核心机制是由生成器产生输入特定的低秩参数更新，并在训练和推理阶段应用这些更新。与为整个数据集学习一组固定更新、对所有输入使用同一适应模型的方案相比，其关键区别在于参数适应随输入变化。摘要未说明生成器结构、条件输入形式、更新作用位置、低秩设置及训练目标，这些细节尚未验证。 作者报告，在六个公开基准上，AdaCast 的域内预测表现持续优于静态适应基线，并改善了对跨领域留出数据集的零样本泛化。摘要未提供基准名称、指标、提升幅度或具体数据划分，不能据此量化收益或比较不同协议；实验协议、消融及统计信息尚未验证。复现还需核对预训练 TSFM、生成器训练所用数据、留出数据集与训练数据的关系，以及训练和推理的计算开销。 平台推测（待验证）：输入条件化更新可能用于缓解 EEG 时序预测中不同被试或状态造成的动态异质性，但原领域有效不等于 BCI 有效。可复用的部分是冻结主干与条件低秩更新机制；需改造输入表示、通道组织和预测目标，并确认 EEG 数据规模与监督条件能否支持生成器训练。低信噪比、通道差异及小数据可能使生成器追随伪迹而非稳定动态。一个可证伪的小实验是在固定 EEG 预测主干、训练数据与更新预算下，对比静态低秩更新和输入条件化更新，采用被试隔离的 Cross-subject 划分并检查误差与伪迹敏感性。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对输入条件化低秩参数更新相较静态适应的增益及其跨数据集泛化边界；摘要提供了明确机制，但其对 EEG 的适用性尚未验证。

10月8日周四
  1. arXiv · 在线与高效推理80

    告诉机器人不要做什么：否定理解视角

    基于摘要分析。研究关注 vision-language-action models（VLAs）如何在完成机器人操作目标的同时，遵守自然语言指令中的明确排除约束。作者提出参数高效、即插即用的 NegaAlign，通过图像—语言监督扩展预训练 VLA 的否定指令理解能力，并提出用于评估此类操作的仿真基准 NegaBench。 机制方面，NegaAlign 在视觉—语言骨干的选定层插入 Negation Transformation Layers，以重塑中间指令表征；同时使用教师引导的对齐机制，对齐与指令相关的视觉 tokens，从满足否定约束的指令中迁移动作相关的 grounding。训练监督由现有示范构建，仅更新插入层，所有预训练参数均冻结，包括动作生成器。摘要未提供教师构建方式、具体损失、插入位置及监督样本生成细节，这些内容尚未验证。 作者报告，NegaBench 覆盖五个领域的 10 个仿真场景，在 GR00T、π_0 和 π_{0.5} 上均观察到否定指令执行改善。其中，具有 11.6M 可训练参数的 NegaAlign 将 π_{0.5} 在 NegaBench 上的否定指令成功率从 2.60% 提升至 88.45%，在真实世界任务中从 12.4% 提升至 88.8%，并保留肯定指令上的性能。两组成功率对应不同评估环境，不宜直接横向比较；数据划分、真实任务数量、成功判据、对照配置、消融及统计信息尚未验证。 平台推测（待验证）：该方法可为带自然语言约束的 BCI 辅助机器人控制提供参考，但其监督依赖图像、语言与机器人示范，并非直接面向 EEG 解码。若引入 BCI 系统，可考察冻结动作模型的约束适配模块，但需改造脑信号到指令或控制意图的接口；低信噪比、跨被试差异及小数据可能使意图误差传递为约束执行错误。一个可检验的小实验是在固定机器人任务中比较正确指令与含受控解码错误的指令，分别测量任务成功率和约束违反率。相关 EEG/BCI 工作尚未检索确认。

    阅读价值：值得阅读的是 NegaAlign 如何仅用图像—语言监督、冻结动作生成器来改善否定指令执行；作者报告的较大成功率提升仍需结合 NegaBench 的划分、对照与真实机器人评估协议核对。

  2. arXiv · 在线与高效推理74

    适应位置的重要性：面向能力保留的层选择性微调

    基于摘要分析。研究关注 LLM 的参数高效微调（PEFT）在适应专门任务时可能损害预训练通用能力的问题，提出 Layer-Selective LoRA（LS-LoRA）：以各 Transformer 层的输入—输出余弦相似度筛选适应位置，仅在低相似度层部署可训练 LoRA 适配器。 核心机制是将“在哪里适应”作为优化对象，而不是主要依赖数据回放或显式正则化约束。作者用逐层经验 Fisher 信息衡量目标任务敏感性，但其计算需要反向传播；因此提出仅需前向计算的输入—输出余弦相似度作为层敏感性排序的轻量代理。作者报告，在所评估的模型与任务中，较低的输入—输出相似度对应较高的经验 Fisher 分数。该观察支持选择低相似度层进行适应，但摘要未提供相似度聚合方式、层选择阈值及额外计算开销。 作者报告，在数学推理和代码生成实验中，相较标准全层 LoRA，LS-LoRA 提升了平均目标任务表现，并保留了更多常识推理能力。摘要未给出具体模型、数据集、指标数值、训练与评估划分，也未说明适配器参数预算是否匹配；实验协议、消融及统计信息尚未验证。需核对收益究竟来自层位置选择、可训练参数减少，还是两者共同作用，以及常识推理评估能代表多大范围的通用能力。 平台推测（待验证）：若 EEG Transformer 的层输入—输出相似度也能反映下游任务敏感性，这种选择性适应可能用于检验跨被试或跨数据集微调时的能力保留。可复用模块是逐层前向相似度计算与 LoRA 层选择；需改造相似度在 EEG 时间片段和通道维度上的聚合方式，并依赖已有预训练编码器与下游监督数据。低信噪比、通道差异及小样本可能使层排序不稳定，LLM 中的代理关系不能直接视为 EEG 结论。一个可证伪的小实验是固定 EEG 编码器、跨被试划分与训练预算，对比低相似度层、高相似度层、随机层及全层 LoRA，同时核对相似度与经验 Fisher 排序的一致性，并评估目标任务及原任务保留情况。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对输入—输出余弦相似度能否稳定替代逐层经验 Fisher 信息，以及选择性部署 LoRA 是否在可比训练条件下改善目标任务适应与通用能力保留的权衡。

  3. arXiv · 在线与高效推理80

    SV-TAD：用于高效时序动作检测的原生稀疏卷积

    基于摘要分析。该研究针对长视频理解中轻量卷积适配器虽能降低可训练参数量、却未充分降低推理计算的问题，提出原生稀疏二维卷积，并将其集成到时序动作检测框架 SV-TAD，使适配器直接处理动态剪枝后的 token 集合。 核心机制是解决 token 选择与卷积适配器之间的结构冲突：剪枝可降低注意力计算，但会破坏卷积依赖的空间网格，若先重建稠密表示，可能抵消加速收益。作者提出的稀疏算子旨在绕过这一重建步骤。摘要未说明 token 选择策略、稀疏邻域构建、卷积实现、损失函数或训练配置，这些细节尚未验证。 作者报告，在 THUMOS-14 和 ActivityNet-1.3 的时序动作检测评估中，采用 VideoMAEv2-L 时计算量最多降低 64%，推理速度达到 2.2 倍，同时维持作者所称的当前最佳精度；摘要未提供具体精度指标、对应划分、基线配置、硬件及计时范围，无法判断两项效率数字是否对应同一设置。作者还报告，扩展到 InternVideoNext-L 后，以约一半计算成本超过此前最佳结果，但具体指标与对照条件尚未验证。稀疏表示亦支持辅助任务 token，作者报告其改善了 ATTACH 上的细粒度装配检测，未给出提升幅度。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 时频表示采用网格化 token 与卷积适配器，这种避免稠密重建的机制可能用于降低推理开销；该假设不代表已证实的 BCI 效果。可复用的是稀疏卷积处理路径，需改造 token 选择及邻域定义，以适应时间、频率与通道结构。低信噪比下剪枝可能删除弱判别信号，通道差异与小数据也可能使选择策略不稳定。一个可检验的小实验是在固定 EEG 任务、数据划分及骨干下，对比稠密适配器、剪枝后稠密重建、直接稀疏卷积三种路径，同时记录任务指标与同一硬件上的端到端延迟。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其原生稀疏卷积如何避免 token 剪枝后的稠密重建开销，以及计算量下降能否在不同骨干与实际推理环境中转化为稳定加速。

  4. arXiv · 在线与高效推理70

    通过协同过滤路径实现多模态图检索增强的序列推荐

    基于摘要分析。该研究针对多模态序列推荐中仅依赖目标用户历史、忽略邻近用户协同信号，以及反复调用 Multimodal Large Language Models（MLLMs）处理长历史所带来的计算开销，提出 MGRASRec。其核心贡献是按候选物品检索用户—物品交互图中的结构化路径，将协同过滤信息与相关历史整合到提示中，再对 MLLM 进行参数高效微调。 机制上，MGRASRec 通过多模态相似性扩展交互图，扩大超出精确共同交互重叠的检索覆盖范围；候选物品条件化的路径检索同时找出与候选最相关的历史物品。作者称，这一过程无需额外成本即可筛选历史，免去反复摘要，并使每个候选物品的 MLLM 推理保持为一次前向传播。该描述不等于完整推荐流程仅需一次前向传播，图检索开销、候选数量及端到端延迟尚未验证。 作者报告，在三个公开数据集上的评估中，MGRASRec 在所有所评指标上取得最佳表现，排名质量提升尤其明显。摘要未提供数据集名称、指标数值、数据划分或对照基线，因此无法核对提升幅度及比较条件。图构建与路径选择规则、多模态相似性计算、提示格式、微调配置、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移价值主要在于“围绕待判断对象检索关系证据并压缩上下文”，而非已证实的 EEG/BCI 效果。假设 EEG 任务具备可信的试次—被试—任务关系及可比较的多模态表征，可尝试复用图路径检索与上下文筛选；交互图语义、候选定义和监督目标则需重构。低信噪比、跨被试差异、通道不一致及小数据可能导致相似性失真和无关证据引入。一个可检验的小实验是在固定跨被试划分下，对比无检索、相似性检索与关系路径检索，并限定图构建仅使用训练集，核对预测效果与总推理成本。相关 EEG 工作尚未检索确认。

    阅读价值：值得关注候选物品条件化的图路径检索如何同时补充协同信号并筛选相关历史，但排名收益与单候选推理成本仍需结合全文实验协议核验。

  5. arXiv · 泛化与分布偏移72

    DiscoVL：通过正交对抗正则化实现视觉-语言模型的解耦跨模态表征学习

    DiscoVL 面向预训练视觉-语言模型适配下游任务时的表征一致性与语义分布偏移问题，将正交对抗正则化与结构化跨模态对齐结合，以改善适配后的泛化能力。基于摘要分析，未取得论文全文。 机制方面，作者提出多分支低秩残差对齐器，将表征分解到不同子空间，并在各层视觉流与文本流之间引入双向跨模态反馈，以增强跨模态交互。针对常规三元组约束可能使特征过度贴合类别质心的问题，作者为对抗三元组损失设计正交正则化，并认为它能够防止质心坍缩。摘要未说明正交约束施加的具体对象、对抗样本或扰动的构造方式、损失公式及训练参数范围，这些实现细节尚未验证。 作者报告，在 15 个基准上，DiscoVL 相较于作者所称的当前最先进方法，在 base-to-novel generalization、Cross-dataset 评估和 few-shot learning 中均取得一致改进。摘要未提供基准名称、划分、指标、具体增益或对照方法，不能据此判断不同协议下的提升幅度。实验协议、消融及统计信息尚未验证；复现需进一步核对骨干模型、低秩配置、各损失权重和训练预算。 平台推测（待验证）：若任务具备 EEG 与文本描述或视觉刺激之间的配对监督，可假设低秩子空间对齐与正交约束有助于区分类别语义和被试相关变化，但原领域结果不等于 BCI 有效。可复用的是对齐器和正则化思路，需改造 EEG 编码器、跨模态反馈接口及三元组采样方式。EEG 的低信噪比、跨被试及通道差异、小数据条件可能使子空间分解不稳定，或使语义约束压制有效判别信息。一个可证伪的小实验是在固定 Cross-subject 划分与相同训练预算下，对比基础跨模态对齐、加入低秩对齐器、再加入正交约束的版本，检验其是否稳定改善预先指定的分类指标。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 DiscoVL 如何通过多分支低秩跨模态对齐与正交对抗三元组约束缓解类别质心坍缩，以及这些机制对新类别和跨数据集泛化的实际贡献；具体增益及消融尚未验证。

  6. arXiv · 在线与高效推理75

    通过奇异向量选择平衡 LLM 持续学习中的稳定性与可塑性

    基于摘要分析。研究针对 LLM 领域持续适应中的灾难性遗忘，提出参数高效持续学习方法 SVC，以奇异向量通道作为分配可塑性与保留稳定性的基本单元，选择性更新通道，以兼顾新领域能力与预训练能力。 核心机制：作者将每个奇异向量通道视为一种输入—输出变换，更新通道用于学习新知识，固定通道用于保留预训练能力。微调前，SVC 使用领域数据估计各通道的适应收益，并仅将固定的公开通用领域语料作为历史激活代理，用于估计遗忘成本；随后通过基于拐点的成本筛选、Pareto-front 过滤与 Otsu 阈值法，自适应选择可训练通道。相较于仅限制可训练参数数量的 PEFT 思路，其关注点是以何种结构单元、依据何种收益与成本信号决定更新位置。具体评分公式、参数化方式、损失与训练开销尚未验证。 结果与证据边界：在覆盖四个 LLM 家族、八项下游任务的实验中，作者报告 SVC 相较现有 PEFT 基线更好地保留预训练能力，同时获得较强的下游表现；作者还报告通道评分与选择分析支持该机制。摘要未提供模型名称、数据集、任务顺序、划分、指标数值或基线配置，实验协议、消融及统计信息尚未验证，因此不能据此量化优势或判断不同持续学习设置下的适用范围。 平台推测（待验证）：若 EEG 预训练模型的权重也能分解为具有可用适应信号的奇异向量通道，该机制可能用于缓解跨被试或跨会话持续适应中的遗忘。可借鉴通道评分与筛选流程，但需改造领域收益评估及历史激活代理，不能直接用文本通用语料替代 EEG 历史数据。低信噪比、小样本和通道配置变化可能使评分不稳定，或使保留的通道不能代表原有能力。一个可检验的小实验是在固定 EEG 模型与顺序跨会话协议下，匹配可训练参数量，对比 SVC 式选择、随机通道选择与 PEFT 基线，同时测量新会话表现和旧会话性能变化。该迁移假设尚无本材料中的 EEG 证据支持，已有相关工作尚未检索确认。

    阅读价值：值得核对 SVC 如何将领域适应收益与遗忘成本落实到奇异向量通道选择，以及固定通用语料作为历史激活代理的有效性；摘要中的优势尚需结合完整实验协议验证。

10月6日周二
  1. arXiv · EEG 与神经表征80

    CogAdapt：认知信息引导的代码 LLM 稀疏适应

    基于摘要分析。研究针对代码 LLM 微调成本较高的问题，提出 CogAdapt：利用人类阅读代码时的 EEG 与注意数据，学习程序级和 token 级认知先验，并据此选择性更新模型，以兼顾代码生成性能与适应参数规模。 核心机制是将可迁移的认知先验与冻结模型对各编码任务的响应相结合，决定适应规模及需要更新的 transformer blocks；微调期间仅更新选定模块，推理时不需要新增人类记录。与摘要所述通常更新较大部分模型的人类认知对齐方法相比，其重点不是仅用认知信号指导学习内容，而是进一步指导更新位置和规模。先验的具体学习目标、EEG 预处理、注意数据获取方式及模块选择规则尚未验证。 作者报告，在 Qwen 和 GLM 上，人类阅读行为与 Mixture-of-Experts（MoE）计算表现出一致对应关系。作者报告，CogAdapt 在 LiveCodeBench 和 BigCodeBench 的所比较设置中取得最佳 pass@1；其中在 LiveCodeBench 上，相较匹配的常规微调，提升分别为 10.86 和 6.29 个百分点，同时可参与梯度更新的适应参数减少 86.21–87.21%。摘要未明确各数值对应的模型配置，也未提供绝对 pass@1、数据划分或统计不确定性；参数减少不能直接等同于训练时间、显存或总计算成本同比下降。 该工作将 EEG 作为代码模型适应的认知指导信息，而非直接研究 BCI 解码。关键核对事项包括认知先验跨程序、任务及被试的可迁移性，认知信号相对纯模型响应选择策略的增益，以及匹配微调的参数预算和训练预算。被试数量、记录协议、训练与评估划分、消融、统计信息及代码可用性尚未验证，不能据此推断其适用于其他 EEG 任务。

    阅读价值：值得核对其如何将 EEG 与人类注意数据转化为代码模型的稀疏适应先验，以及性能提升和可参与梯度更新的参数减少能否在匹配微调协议下复现；这并非 EEG 解码性能的验证。

10月5日周一
  1. arXiv · 时序与音频基础模型78

    Anlu：通过反事实监督使基础模型具备上下文时序异常检测能力

    基于摘要分析。Anlu 研究时序异常检测（TSAD）中异常判定依赖运行状态的问题：同一查询序列中的模式，在不同正常规则下可能具有不同标签。其核心贡献是通过反事实监督训练模型利用参考序列，并在推理时保持模型参数固定，实现参考条件化的上下文学习（ICL）。 机制上，训练将同一查询与两条支持不同正常规则的参考序列配对，分别提供对应标签。在两组标签不一致的位置，忽略参考的检测器无法同时拟合两个目标，从而约束模型学习参考与异常判定之间的关系。Anlu 在一个已针对异常检测预训练、参数冻结的时序基础模型（TSFM）上添加参考记忆和零初始化门控适配器；具体记忆结构、适配器配置及损失形式尚未验证。 作者报告，在 350 条 TSB-AD-U 评估序列上，Anlu 将冻结 TSFM 的平均 VUS-PR 从 0.542 提升至 0.607；将参考替换为全零后，Anlu 的分数降至 0.499。这一干预结果支持模型预测依赖参考输入，但尚不能据摘要确定参考质量、参考分布变化及不同异常类型下的稳健性。训练数据、参考构造与选择方式、数据划分、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 异常标签确实随被试或状态对应的正常规则变化，该机制可能帮助缓解固定异常标准难以跨被试或跨会话适用的问题。可复用的是反事实配对监督与参考条件化机制；需改造参考记忆以处理 EEG 通道布局、采样率及伪迹。其前提是能够构造可信的参考及条件标签，低信噪比、参考受污染和小数据可能使模型学习伪相关。一个可检验的小实验是在具有明确状态标签的 EEG 数据上，对同一查询配置两种参考，比较正确参考、交换参考和全零参考下的预测及条件标签一致性。该实验仅为迁移假设，不构成已验证的 EEG 效果；已有 EEG 相关工作尚未检索确认。

    阅读价值：反事实监督为检验异常检测器是否真正利用参考序列提供了明确机制，作者报告的参考置零结果也使其上下文依赖性具有可核对的实验线索。

10月4日周日
  1. arXiv · 学习目标与优化75

    PWM：通过在线强化学习实现个性化世界模型

    基于摘要分析。该研究针对预训练世界模型难以根据用户短视频定制特定场景、同时保持动作条件生成质量的问题，提出 Personalized World Models（PWM），通过在线强化学习学习场景专属适配器，并引入 PWM-Bench 评估场景定制效果。 机制上，支持轨迹及其对应控制信号为当前策略采样的续接提供奖励反馈。GRPO 实现使用场景外观、视觉连续性与运动的统一奖励，更新紧凑的 LoRA 适配器；Yume-5B 主干保持冻结，并以基础策略锚定约束对预训练生成先验的偏离。作者还采用 DiffusionNFT 作为另一种奖励引导优化方法，学习同类场景专属适配器。摘要未给出奖励计算、锚定形式、在线采样预算及适配器配置，尚不能判断各部分的独立贡献。 PWM-Bench 包含 Indoor、Outdoor、Gaming 三个领域的 150 个定制任务，采用留出续接上的配对评估。作者报告，相对于原生 Yume，GRPO 与 DiffusionNFT 实现分别在所评估场景的 71.3% 和 65.3% 上改善定制效果，且三个领域的平均增益均为正；这些比例是改善场景的占比，不是 Accuracy 或增益百分点。作者报告，在匹配的 SFT 对照中，GRPO 实现在每个领域都获得更高的平均定制增益及更好的平均图像质量评分，同时帧级视觉质量接近预训练模型。具体评分定义、任务划分、SFT 匹配条件、消融及统计信息尚未验证。 平台推测（待验证）：其“轻量适配与先验保持”的思路可能启发 EEG 个性化，但这仅是假设。原方法依赖视频支持轨迹、控制信号及视觉奖励，不能直接视为 EEG/BCI 证据；摘要也不足以建立可直接复用的 EEG 奖励与生成机制。跨领域迁移需另行评估低信噪比、被试差异及小数据条件下的适配稳定性，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其通过奖励引导的 LoRA 适配与基础策略锚定平衡场景个性化和生成质量的机制，以及在留出续接上的配对评估和匹配 SFT 对照；具体奖励设计与实验协议仍需全文核对。

  2. arXiv · 表征与预训练75

    KALEIDO：通过门控折叠几何实现视觉模型用于时间序列预测的输入空间适配

    基于摘要分析。KALEIDO 研究如何将 ImageNet 预训练的 masked autoencoder 用于时间序列预测，核心贡献是将序列渲染的折叠几何作为可控制、可混合的适配维度，以缩小时间序列图像与自然图像之间的差异。 方法先检测主导周期，按规则生成一组折叠几何，将序列渲染成图像并通过图像补全获得预测；随后使用仅在验证集上拟合的逐位置凸组合门控融合各几何的补全结果，再以一个固定融合比例与零样本基线输出结合。作者称，除基线已公布的设置外，不引入逐数据集超参数。这里的验证集门控拟合应与基线的零样本属性区分，完整的数据划分、验证信息使用方式及推理流程尚未验证。 作者报告，在 LTSF 上，仅训练 LayerNorm、所训练参数占比为 0.05% 时，相对已公布的零样本基线，MSE 降低 13%；冻结模型时，MSE 降低 6.6%。在 GIFT-Eval 上，作者报告相对基线的 MASE 改善 7.4%、CRPS 改善 19.3%，但摘要未明确这两项结果对应冻结模型还是 LayerNorm 适配。具体预测长度、任务聚合方式、门控拟合规模、消融及统计信息尚未验证，不宜跨协议直接比较这些结果。 平台推测（待验证）：该机制可能用于具有周期结构的 EEG 时间序列预测，但不能据此推断 BCI 解码收益。可复用部分是周期检测、多几何渲染和门控融合；需改造的是多通道组织、幅值归一化及预测任务接口。低信噪比、非平稳周期、跨被试差异及小验证集可能使周期估计或门控不稳定。可检验的小实验是在同一 EEG 预测任务与严格分离的数据划分下，对比单一几何、多几何均匀融合及验证集门控，检查收益是否在跨会话测试中保持。已有相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其周期感知折叠几何与验证集门控如何改善视觉模型的时序预测，尤其是冻结模型的收益及验证集适配与零样本评估的协议边界。