跳到正文

算法、任务与模态

Scientific ML 最新动态

Scientific ML 研究索引;按可核对的标签归档,不以热度评价质量。

44 条精选近 30 天 38 条共收录 50 条

更新

精选归档 · 第 3 页

5月1日周四第 41–44 条
  1. OpenReview · State space models74

    面向复杂环境长期动力学预测的可泛化物理增强状态空间模型

    基于摘要分析。该研究针对复杂环境中含噪声、非规则采样数据的长期动力学预测,提出 Phy-SSM,将部分已知物理知识融入状态空间模型(SSMs),以改善长期插值与外推。 核心机制是将部分已知的系统动力学分解为已知与未知状态矩阵,并将其整合到 Phy-SSM 单元中;同时引入 physics state regularization,使估计的潜在状态与系统动力学对齐。研究动机是结合 SSMs 的长程依赖建模能力与物理知识提供的约束。作者还对方法解的唯一性进行了理论分析,但具体假设、适用条件、矩阵参数化及正则项形式尚未验证。 作者报告,在车辆运动预测、无人机状态预测和 COVID-19 流行病学预测三类真实应用中,Phy-SSM 在长期插值与外推任务上优于对照基线。摘要未提供具体数据集名称、划分方式、预测时长、噪声与采样设置、基线名称或指标数值,因此尚不能判断优势幅度及不同协议下的稳健性。实验协议、消融及统计信息尚未验证。作者表示代码将在发表时公开,当前材料不能确认代码已可用或论文已正式发表。 平台推测(待验证):若 EEG 预测任务存在可明确表达的部分动力学先验,已知与未知状态矩阵的分解可能为低信噪比、非规则采样下的时间序列建模提供约束。这是假设,并非已验证的 EEG/BCI 效果。可考虑复用矩阵分解与潜在状态正则化机制,但需要重新定义 EEG 的潜在状态、观测映射与先验;跨被试动力学差异、通道变化、错误先验及小数据条件都可能使约束失效。一个可检验的小实验是在固定被试内划分与预测时长下,对比普通 SSM、加入合理先验的 Phy-SSM 和加入扰动先验的版本,并评估不同噪声与采样缺失条件下的预测误差。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对 Phy-SSM 如何将部分已知动力学纳入状态矩阵及潜在状态正则化,尤其是其在噪声、非规则采样条件下的长期外推协议;其对 EEG 的适用性尚未验证。

1月1日周三
  1. OpenReview · State space models70

    用于降雨—径流模拟的深度状态空间模型

    该研究针对降雨—径流模拟中 LSTM 仍占优势的问题,提出采用 Frequency Tuned Diagonal State Space Sequence(S4D-FT)模型作为替代序列建模方法。基于摘要分析,贡献主要是将该状态空间模型用于水文模拟,并与深度学习及物理模型进行对照。 方法与评估:作者在美国本土连续地区(CONUS)的 531 个流域上,将 S4D-FT 与 LSTM、基于物理机制的 Sacramento Soil Moisture Accounting 模型进行比较。作者报告,S4D-FT 在不同地区能够优于 LSTM;摘要未提供具体指标、提升幅度或相对物理模型的结果,因此不能量化优势或判断其适用边界。这里的 531 指流域数量,不代表独立测试流域数量,训练与测试划分尚未验证。 技术核对重点:摘要明确了状态空间序列建模及频率调谐的方法名称,但未展开频率调谐如何实现、输入变量、状态更新、损失函数与训练配置。需进一步核对性能是否来自模型机制,以及对序列长度、流域差异和训练预算的敏感性;实验协议、消融及统计信息尚未验证,代码与复现条件也尚未验证。 平台推测(待验证):可迁移假设是利用状态空间模型处理 EEG 时间序列,并检验频率调谐是否适合任务相关的频谱结构,而非把水文优势直接视为 BCI 优势。原任务依赖降雨—径流时序数据,具体输入结构、监督方式及样本规模尚未验证;迁移时可考虑复用序列建模模块,但需改造多通道输入和任务输出。EEG 的低信噪比、跨被试频谱差异及小数据条件可能使调谐失效或过拟合。一个可证伪的小实验是在固定 EEG 数据划分与训练预算下,对照 S4D-FT、未调谐的 S4D 和 LSTM,检验频率调谐能否稳定带来增益。相关 EEG 工作尚未检索确认。

    阅读价值:值得关注其以 S4D-FT 对照 LSTM 与物理水文模型的序列建模评估,但频率调谐机制、数据划分及性能差异的统计证据仍需全文核对,不能据此推断 EEG 效果。

6月18日周二
  1. OpenReview · State space models75

    ProtMamba:一种感知同源性但无需序列比对的蛋白质状态空间模型

    基于摘要分析。ProtMamba 针对蛋白质设计中如何利用同源序列的进化信息、同时避免依赖不完善的多序列比对构建流程这一问题,提出基于 Mamba 的蛋白质语言模型。其核心贡献是将拼接的同源序列作为长上下文输入,在不进行序列比对的情况下建模同源信息。 机制与训练:模型在大规模拼接同源序列数据上训练,通过 fill-in-the-middle 目标结合自回归与掩码语言建模。作者报告,相比基于注意力的模型,ProtMamba 能高效处理包含数百条蛋白质序列的长上下文。摘要未给出数据集名称、具体规模、模型参数量、目标实现及计算效率测量条件,这些信息尚未验证。 结果与证据边界:作者报告模型可用于新序列生成和适应度预测,并在模型规模较小的情况下取得与其他蛋白质语言模型有竞争力的表现,认为这体现了长上下文条件信息的重要性。具体指标、对照模型、数据划分、同源关系控制、消融及统计信息尚未验证,因此不能据此判断性能提升幅度或将效果单独归因于 Mamba、同源上下文或训练目标。 平台推测(待验证):其长上下文条件建模机制可能为 EEG 中利用多段相关记录提供思路,但蛋白质同源序列的进化关系并不等同于跨被试或跨会话的 EEG 关联。迁移假设依赖可靠的记录分组与上下文构造,需要改造连续信号表示、通道编码和训练目标;低信噪比、通道差异及小数据可能使长上下文引入无关信息。一个可检验的小实验是在固定 EEG 任务与数据划分下,比较相关记录上下文、随机记录上下文和无上下文条件,检验收益是否来自上下文相关性。该实验仅为迁移假设,已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读的具体原因是 ProtMamba 以无需多序列比对的同源序列长上下文建模探索进化信息利用,并结合 fill-in-the-middle 训练目标;其性能与规模优势仍需结合全文中的评估协议和对照核验。

1月16日周二
  1. OpenReview · Representation learning74

    基于细粒度交互的蛋白质–配体结合表征学习

    基于摘要分析。该研究针对蛋白质–配体结合预测中监督数据有限、模型泛化受限的问题,提出以细粒度交互为核心的自监督表征学习方法。不同于分别预训练蛋白质和配体的思路,作者将预训练表述为:给定结合口袋与配体,预测最终结合复合物结构。 机制上,方法采用基于 Transformer 的交互模块,并设置原子对距离图预测与配体掩码重建两项预训练任务,分别从结构空间和特征空间建模结合交互。摘要未说明距离图的具体覆盖范围、掩码策略、损失形式及任务组合方式,这些实现细节尚未验证。 作者报告,该方法在蛋白质–配体亲和力预测、虚拟筛选和蛋白质–配体对接等任务中表现优于对照方法,但摘要未提供数据集、数据划分、基线名称、指标或数值,因而无法判断优势幅度及泛化边界。实验协议、消融及统计信息尚未验证;复现还需核对预训练数据来源、复合物结构处理、下游训练设置,以及代码和模型权重的可用性。 平台推测(待验证):可借鉴的是“显式关系预测与掩码重建联合预训练”的机制,而非直接移植分子结合模型。其原始任务依赖结合口袋、配体及原子级结构关系;EEG 中可假设用通道间关系预测辅助掩码信号重建,以应对标注有限时的表征学习问题。可复用交互建模和双任务框架,但需改造输入编码与关系目标,不能将原子距离直接等同于 EEG 功能连接。低信噪比、参考方式、跨被试差异和通道配置变化均可能使关系目标不稳定,小数据下也可能学到伪迹。一个可证伪的小实验是:在固定 Cross-subject 划分和相同预训练数据条件下,对比仅掩码重建与加入关系预测的模型,检验下游性能及通道扰动稳定性是否改善。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得阅读其以原子对距离预测和配体掩码重建联合学习细粒度交互的自监督机制,但摘要中的多任务优势仍需结合完整实验协议核对,向 EEG 的迁移尚未验证。