跳到正文
只看模型架构#PEFT
10月9日周五
  1. arXiv · 时序与音频基础模型73

    AdaCast：用于自适应时间序列预测的条件参数生成

    基于摘要分析。AdaCast 针对时间序列基础模型（TSFM）的静态适应问题，提出条件参数生成框架：根据每个输入生成低秩参数更新，使冻结的预训练模型能够针对不同时间模式、季节性与动态特征进行预测。 核心机制是由生成器产生输入特定的低秩参数更新，并在训练和推理阶段应用这些更新。与为整个数据集学习一组固定更新、对所有输入使用同一适应模型的方案相比，其关键区别在于参数适应随输入变化。摘要未说明生成器结构、条件输入形式、更新作用位置、低秩设置及训练目标，这些细节尚未验证。 作者报告，在六个公开基准上，AdaCast 的域内预测表现持续优于静态适应基线，并改善了对跨领域留出数据集的零样本泛化。摘要未提供基准名称、指标、提升幅度或具体数据划分，不能据此量化收益或比较不同协议；实验协议、消融及统计信息尚未验证。复现还需核对预训练 TSFM、生成器训练所用数据、留出数据集与训练数据的关系，以及训练和推理的计算开销。 平台推测（待验证）：输入条件化更新可能用于缓解 EEG 时序预测中不同被试或状态造成的动态异质性，但原领域有效不等于 BCI 有效。可复用的部分是冻结主干与条件低秩更新机制；需改造输入表示、通道组织和预测目标，并确认 EEG 数据规模与监督条件能否支持生成器训练。低信噪比、通道差异及小数据可能使生成器追随伪迹而非稳定动态。一个可证伪的小实验是在固定 EEG 预测主干、训练数据与更新预算下，对比静态低秩更新和输入条件化更新，采用被试隔离的 Cross-subject 划分并检查误差与伪迹敏感性。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对输入条件化低秩参数更新相较静态适应的增益及其跨数据集泛化边界；摘要提供了明确机制，但其对 EEG 的适用性尚未验证。

10月8日周四
  1. arXiv · 在线与高效推理80

    SV-TAD：用于高效时序动作检测的原生稀疏卷积

    基于摘要分析。该研究针对长视频理解中轻量卷积适配器虽能降低可训练参数量、却未充分降低推理计算的问题，提出原生稀疏二维卷积，并将其集成到时序动作检测框架 SV-TAD，使适配器直接处理动态剪枝后的 token 集合。 核心机制是解决 token 选择与卷积适配器之间的结构冲突：剪枝可降低注意力计算，但会破坏卷积依赖的空间网格，若先重建稠密表示，可能抵消加速收益。作者提出的稀疏算子旨在绕过这一重建步骤。摘要未说明 token 选择策略、稀疏邻域构建、卷积实现、损失函数或训练配置，这些细节尚未验证。 作者报告，在 THUMOS-14 和 ActivityNet-1.3 的时序动作检测评估中，采用 VideoMAEv2-L 时计算量最多降低 64%，推理速度达到 2.2 倍，同时维持作者所称的当前最佳精度；摘要未提供具体精度指标、对应划分、基线配置、硬件及计时范围，无法判断两项效率数字是否对应同一设置。作者还报告，扩展到 InternVideoNext-L 后，以约一半计算成本超过此前最佳结果，但具体指标与对照条件尚未验证。稀疏表示亦支持辅助任务 token，作者报告其改善了 ATTACH 上的细粒度装配检测，未给出提升幅度。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 时频表示采用网格化 token 与卷积适配器，这种避免稠密重建的机制可能用于降低推理开销；该假设不代表已证实的 BCI 效果。可复用的是稀疏卷积处理路径，需改造 token 选择及邻域定义，以适应时间、频率与通道结构。低信噪比下剪枝可能删除弱判别信号，通道差异与小数据也可能使选择策略不稳定。一个可检验的小实验是在固定 EEG 任务、数据划分及骨干下，对比稠密适配器、剪枝后稠密重建、直接稀疏卷积三种路径，同时记录任务指标与同一硬件上的端到端延迟。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其原生稀疏卷积如何避免 token 剪枝后的稠密重建开销，以及计算量下降能否在不同骨干与实际推理环境中转化为稳定加速。

  2. arXiv · 在线与高效推理70

    通过协同过滤路径实现多模态图检索增强的序列推荐

    基于摘要分析。该研究针对多模态序列推荐中仅依赖目标用户历史、忽略邻近用户协同信号，以及反复调用 Multimodal Large Language Models（MLLMs）处理长历史所带来的计算开销，提出 MGRASRec。其核心贡献是按候选物品检索用户—物品交互图中的结构化路径，将协同过滤信息与相关历史整合到提示中，再对 MLLM 进行参数高效微调。 机制上，MGRASRec 通过多模态相似性扩展交互图，扩大超出精确共同交互重叠的检索覆盖范围；候选物品条件化的路径检索同时找出与候选最相关的历史物品。作者称，这一过程无需额外成本即可筛选历史，免去反复摘要，并使每个候选物品的 MLLM 推理保持为一次前向传播。该描述不等于完整推荐流程仅需一次前向传播，图检索开销、候选数量及端到端延迟尚未验证。 作者报告，在三个公开数据集上的评估中，MGRASRec 在所有所评指标上取得最佳表现，排名质量提升尤其明显。摘要未提供数据集名称、指标数值、数据划分或对照基线，因此无法核对提升幅度及比较条件。图构建与路径选择规则、多模态相似性计算、提示格式、微调配置、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移价值主要在于“围绕待判断对象检索关系证据并压缩上下文”，而非已证实的 EEG/BCI 效果。假设 EEG 任务具备可信的试次—被试—任务关系及可比较的多模态表征，可尝试复用图路径检索与上下文筛选；交互图语义、候选定义和监督目标则需重构。低信噪比、跨被试差异、通道不一致及小数据可能导致相似性失真和无关证据引入。一个可检验的小实验是在固定跨被试划分下，对比无检索、相似性检索与关系路径检索，并限定图构建仅使用训练集，核对预测效果与总推理成本。相关 EEG 工作尚未检索确认。

    阅读价值：值得关注候选物品条件化的图路径检索如何同时补充协同信号并筛选相关历史，但排名收益与单候选推理成本仍需结合全文实验协议核验。