跳到正文

算法、任务与模态

Foundation Model 最新动态

Foundation Model 研究索引;按可核对的标签归档,不以热度评价质量。

362 条精选近 30 天 81 条共收录 424 条

更新

精选归档 · 第 19 页

4月25日周二第 361–362 条
  1. OpenReview · State space models77

    优秀模型所见略同:通过模型间潜在空间一致性提升模型可靠性

    基于摘要分析。该研究针对深度学习模型因过度自信而难以可靠部署的问题,通过比较待评估模型与基础模型的潜在空间一致性来估计预测可靠性,并将该信号以事后方式融入预测置信度。 核心机制是邻域一致性度量:两个模型的潜在表示可能存在任意旋转、维度不同等不一致,因此作者不直接比较表示坐标,而是设计潜在空间之间的邻域一致性指标。作者报告,该指标与预测可靠性具有较强相关性,将其与置信度融合可改善可靠性。摘要提及理论分析,以及在多个数据集、分布内和分布外条件下进行的错误检测实验,但未提供具体数据集、对照基线、指标或数值;邻域构建、融合公式、实验协议、消融及统计信息尚未验证。 平台推测(待验证):可检验的迁移假设是,EEG 分类模型与适配 EEG 的基础模型若对同一样本形成相近的邻域结构,其预测可能更可靠。该方法依赖可供比较的样本集合及两套潜在表示;迁移时可复用邻域比较与事后置信度融合思路,但需核对基础模型的训练域、通道适配和邻域参考集构建。EEG 的低信噪比、被试差异、通道不一致与小样本可能使邻域主要反映噪声或被试身份;两个模型也可能一致犯错,因此一致性不能直接等同于正确性。 一个小规模可证伪实验是在固定的 Cross-subject EEG 分类划分下,以独立验证数据确定融合方式,在留出被试上比较原始置信度与融合后置信度的错误检测表现,并检查邻域是否受被试身份主导。该实验仅为迁移建议,非论文已验证结论;已有 EEG 相关工作尚未检索确认。

    阅读价值:该研究以潜在空间的邻域一致性补充预测置信度,为错误检测提供了可核对的方法思路,但其对 EEG 跨被试可靠性评估的适用性尚未验证。

1月1日周日
  1. OpenReview · Representation learning82

    EVA:探索大规模掩码视觉表征学习的极限

    基于摘要分析。EVA 研究如何仅利用公开可访问数据扩展视觉表征学习:以标准 ViT 为骨干,根据可见图像块重建被遮蔽位置的图文对齐视觉特征,构建视觉中心基础模型。其主要研究对象是视觉及图文多模态学习,而非 EEG 或 BCI。 核心机制是将掩码建模的重建目标设为图文对齐的视觉特征,而不是直接表述为像素重建。该任务将局部可见图像信息与语义特征预测联系起来;目标特征的生成方式、损失形式、掩码策略、预训练数据组成及训练预算尚未验证。 作者报告,EVA 可扩展至十亿参数,并在不依赖繁重有监督训练的条件下,在图像识别、视频动作识别、目标检测、实例分割和语义分割等下游任务上取得领先结果。作者还报告,在超过一千类别的 LVIS 与仅八十类别的 COCO 上,EVA 的实例分割表现几乎相当,并据此强调规模扩展带来的迁移能力变化;但摘要未给出具体指标、数据划分和对照设置,不能据此直接比较两个数据集的难度或认定开放词汇能力。 在多模态训练中,作者报告,用 EVA 初始化大型 CLIP 的视觉编码器,相比从头训练可提高训练稳定性,并以更少样本和计算取得更好表现。收益幅度、计算口径、数据重叠及初始化对照的匹配条件,均需全文核对;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其特征空间重建思路可能对应 EEG 自监督学习中“预测语义目标而非原始噪声信号”的需求,但依赖可靠的目标表征与配对监督。可复用的是掩码预测目标设计,需改造的是时序/通道编码和目标特征生成方式;低信噪比、跨被试差异及小样本可能削弱目标一致性。一个可检验的小实验是在固定 EEG 编码器、数据划分和训练预算下,对比原始信号重建与特征重建,并以隔离被试的下游评估检验迁移收益。该假设不是 EVA 已验证的 EEG 效果,相关 EEG 工作尚未检索确认。

    阅读价值:值得核对其以图文对齐视觉特征为重建目标的掩码建模机制,以及 EVA 初始化对大型 CLIP 训练稳定性和样本效率的影响;摘要中的规模化与迁移收益仍需结合完整实验协议验证。