跳到正文

算法、任务与模态

PEFT 最新动态

PEFT 研究索引；按可核对的标签归档，不以热度评价质量。

2 条精选近 30 天 2 条共收录 2 条

更新

PEFT的精选

今天10月9日周五第 1–2 条
  1. arXiv · 时序与音频基础模型73

    AdaCast：用于自适应时间序列预测的条件参数生成

    基于摘要分析。AdaCast 针对时间序列基础模型（TSFM）的静态适应问题，提出条件参数生成框架：根据每个输入生成低秩参数更新，使冻结的预训练模型能够针对不同时间模式、季节性与动态特征进行预测。 核心机制是由生成器产生输入特定的低秩参数更新，并在训练和推理阶段应用这些更新。与为整个数据集学习一组固定更新、对所有输入使用同一适应模型的方案相比，其关键区别在于参数适应随输入变化。摘要未说明生成器结构、条件输入形式、更新作用位置、低秩设置及训练目标，这些细节尚未验证。 作者报告，在六个公开基准上，AdaCast 的域内预测表现持续优于静态适应基线，并改善了对跨领域留出数据集的零样本泛化。摘要未提供基准名称、指标、提升幅度或具体数据划分，不能据此量化收益或比较不同协议；实验协议、消融及统计信息尚未验证。复现还需核对预训练 TSFM、生成器训练所用数据、留出数据集与训练数据的关系，以及训练和推理的计算开销。 平台推测（待验证）：输入条件化更新可能用于缓解 EEG 时序预测中不同被试或状态造成的动态异质性，但原领域有效不等于 BCI 有效。可复用的部分是冻结主干与条件低秩更新机制；需改造输入表示、通道组织和预测目标，并确认 EEG 数据规模与监督条件能否支持生成器训练。低信噪比、通道差异及小数据可能使生成器追随伪迹而非稳定动态。一个可证伪的小实验是在固定 EEG 预测主干、训练数据与更新预算下，对比静态低秩更新和输入条件化更新，采用被试隔离的 Cross-subject 划分并检查误差与伪迹敏感性。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对输入条件化低秩参数更新相较静态适应的增益及其跨数据集泛化边界；摘要提供了明确机制，但其对 EEG 的适用性尚未验证。

10月4日周日
  1. arXiv · 表征与预训练75

    KALEIDO：通过门控折叠几何实现视觉模型用于时间序列预测的输入空间适配

    基于摘要分析。KALEIDO 研究如何将 ImageNet 预训练的 masked autoencoder 用于时间序列预测，核心贡献是将序列渲染的折叠几何作为可控制、可混合的适配维度，以缩小时间序列图像与自然图像之间的差异。 方法先检测主导周期，按规则生成一组折叠几何，将序列渲染成图像并通过图像补全获得预测；随后使用仅在验证集上拟合的逐位置凸组合门控融合各几何的补全结果，再以一个固定融合比例与零样本基线输出结合。作者称，除基线已公布的设置外，不引入逐数据集超参数。这里的验证集门控拟合应与基线的零样本属性区分，完整的数据划分、验证信息使用方式及推理流程尚未验证。 作者报告，在 LTSF 上，仅训练 LayerNorm、所训练参数占比为 0.05% 时，相对已公布的零样本基线，MSE 降低 13%；冻结模型时，MSE 降低 6.6%。在 GIFT-Eval 上，作者报告相对基线的 MASE 改善 7.4%、CRPS 改善 19.3%，但摘要未明确这两项结果对应冻结模型还是 LayerNorm 适配。具体预测长度、任务聚合方式、门控拟合规模、消融及统计信息尚未验证，不宜跨协议直接比较这些结果。 平台推测（待验证）：该机制可能用于具有周期结构的 EEG 时间序列预测，但不能据此推断 BCI 解码收益。可复用部分是周期检测、多几何渲染和门控融合；需改造的是多通道组织、幅值归一化及预测任务接口。低信噪比、非平稳周期、跨被试差异及小验证集可能使周期估计或门控不稳定。可检验的小实验是在同一 EEG 预测任务与严格分离的数据划分下，对比单一几何、多几何均匀融合及验证集门控，检查收益是否在跨会话测试中保持。已有相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其周期感知折叠几何与验证集门控如何改善视觉模型的时序预测，尤其是冻结模型的收益及验证集适配与零样本评估的协议边界。