跳到正文
只看模型架构#Medical AI
10月4日周日
  1. arXiv · 时序与音频基础模型76

    LogSig-SSM：面向状态空间模型的多尺度 log-signature 压缩时序建模

    基于摘要分析。LogSig-SSM 针对高频、不规则采样且具有长程依赖的多变量时序，先以多尺度窗口化 log-signature 将长序列压缩为较短的 token 序列，再用选择性状态空间模型（SSM）建模长程依赖，旨在兼顾连续时间方法的输入表征能力与 SSM 的计算效率。 核心机制是由 log-signature token 表征高阶跨通道交互，再交由选择性 SSM 骨干处理。作者将其定位为对 NCDE、NRDE 长序列扩展成本，以及 Mamba 单个模块内隐维度间递归混合受限问题的回应。摘要还给出连续时间解释：模型可视为由 log-signature 输入驱动的 NCDE/NRDE 风格系统，选择性机制对应潜在动力学的输入依赖重缩放。窗口尺度、log-signature 截断阶数、损失、训练配置及具体骨干实现尚未验证。 作者报告，在 UEA 长序列分类、PPG-DaLiA 高频生理信号回归、多变量天气预测及 PhysioNet Sepsis 不规则采样临床预测四类基准上，LogSig-SSM 优于或匹配较强的 SSM 与连续时间基线；在最长序列上，相比 Mamba，训练速度最高提升至 30 倍，GPU 显存用量最高减少 37 倍。摘要未明确这些效率极值分别对应哪个基准、硬件与配置，也未提供各任务指标、数据划分或不确定性；实验协议、消融及统计信息尚未验证，不能据此认定所有任务均有同等收益。 平台推测（待验证）：迁移假设是，EEG 长序列中的跨通道交互可由窗口化 log-signature 保留，并在压缩后供 SSM 利用。可复用压缩与序列建模思路，但需适配 EEG 通道排列、时间编码及窗口尺度；低信噪比可能使高阶交互放大噪声，通道变化和跨被试差异可能削弱表征稳定性，小数据也可能限制学习。一个可证伪的小实验是在固定 Cross-subject 划分、预处理与训练预算下，对比原始 EEG 输入的 Mamba 与 LogSig-SSM，同时记录分类指标、训练耗时和峰值显存，并改变窗口尺度检验是否牺牲任务信息。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对多尺度 log-signature 压缩能否在保留跨通道交互的同时降低长序列建模成本；摘要中的效率优势有明确比较对象，但具体协议及向 EEG 的迁移效果尚未验证。

10月3日周六
  1. arXiv · 架构与算子71

    用于分子图学习的变分量子注意力

    基于摘要分析。该研究探讨变分量子电路如何改变分子图中的注意力行为，提出边感知的变分量子注意力机制，使接收原子、邻居原子及连接键共同决定量子注意力状态。其贡献不仅是比较分子性质预测性能，还考察量子与经典注意力对分子结构的加权和归因差异。 机制与对照：QGAT 将变分量子电路用于分子图注意力参数化，并以 GATv2 为经典对照。摘要明确包含键信息，但具体特征编码、电路结构、测量方式、训练损失及计算资源尚未验证，不能据此判断其量子计算优势。 作者报告，在五项分子性质与生物活性预测任务上，QGAT 相对 GATv2 表现具有竞争力；在 BBBP 上，所评估的六种电路 ansatz 均获得改善。摘要未提供具体分数、数据划分及不确定性，因而不能量化提升或比较不同协议。作者报告，电路消融显示性能依赖电路设计。 在 Verubecestat 的 BACE1 抑制剂系列案例中，作者报告 QGAT 的 Spearman 相关系数高于 GATv2，并对若干符合已报告结构–活性关系（SARs）的结构变化赋予正向归因。这支持两种注意力机制在结构相关类似物上的预测与归因行为可能不同，但不等同于归因的因果有效性；作者也明确指出，跨化学系列和靶点的一致性仍需更广泛验证。实验协议、消融细节及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，将 EEG 通道图中接收节点、邻居节点及连接特征联合用于注意力评分，可能帮助研究空间关系加权。可复用的是边感知评分思路，需改造的是 EEG 节点特征、边定义和量子输入编码；低信噪比、跨被试连接变化、通道差异及小数据可能使其不稳定。小规模可证伪实验可在固定 EEG 图表示、数据划分与训练预算下，仅替换注意力评分器，与 GATv2 比较跨被试预测表现及重复运行稳定性。该建议不代表已证实的 BCI 效果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是其将量子注意力与匹配的经典评分器同时进行预测和结构归因比较，可用于核对注意力参数化如何改变图学习行为，但跨化学系列的稳定性及 EEG 迁移价值尚未验证。

  2. arXiv · 表征与预训练75

    MAGEFormer：面向各向异性 CT 分割的度量一致表征学习

    基于摘要分析。该研究针对临床各向异性 CT 中体素索引与物理解剖距离不一致、各向同性重采样可能降低分割精度的问题，提出 MAGEFormer，将物理度量约束直接嵌入表征学习，而非仅依赖预处理校正几何差异。 方法包含三个模块：Metric-Adaptive Spatial Embedding（MASE）利用体素间距校准位置频率；Geometry-Constrained Attention（GCA）抑制物理上不合理的特征相关性；Geometric View Voting（GVV）在推理阶段降低离散化偏差。其核心思路是让空间编码、特征交互与推理过程对应实际物理尺度。摘要未给出具体约束公式、损失函数、投票实现或训练配置，这些细节尚未验证。 作者报告，在 BTCV 和 FLARE 22 两个腹部多器官 CT 基准上，采用统一协议与 CNN、Transformer 基线比较，MAGEFormer 在所比较方法中取得最佳边界精度：BTCV 的 HD95 为 10.58 mm，FLARE 22 为 3.40 mm；同一协议下 Dice 也有一致改善，但摘要未提供具体 Dice 数值。作者据此认为，几何感知的内部校准比仅依赖传统各向同性预处理更有效。数据划分、基线配置、重采样设置、消融及统计信息尚未验证，两项 HD95 不能脱离各自数据集背景直接比较。 平台推测（待验证）：该方法依赖可用的物理空间坐标与间距信息，其几何校准思路可能对应 EEG 中通道索引不能代表电极物理距离的瓶颈，但 CT 体素网格与 EEG 不规则电极布局、时间序列结构不同，不能直接迁移。可复用的是基于物理距离校准位置编码与注意力的原则；需要改造坐标表示、通道间几何约束及时间建模。低信噪比、跨被试头部几何差异、通道缺失和小数据可能削弱收益。一个可证伪的小实验是在固定跨被试划分与相同骨干下，对比普通位置编码和电极坐标校准编码，并加入坐标扰动对照，检验收益是否确由几何信息产生。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其利用体素间距校准表征、注意力与推理的机制，以及统一协议下相对各向同性预处理的边界精度收益；其对 EEG/BCI 的适用性尚未验证。