跳到正文

算法、任务与模态

Conditional Computation 最新动态

Conditional Computation 研究索引;按可核对的标签归档,不以热度评价质量。

103 条精选近 30 天 59 条共收录 117 条

更新

精选归档 · 第 6 页

1月1日周日第 101–103 条
  1. OpenReview · EEG80

    用于全频谱神经信号分析的 0.99–4.38 μJ/class 事件驱动混合神经网络处理器

    基于摘要分析。研究面向 BCI 与闭环神经调控中多类信号处理的通用性和能效需求,提出一种事件驱动混合神经网络处理器。主要贡献是将 ANN/SNN 支持、低功耗事件检测和可重构计算架构结合,而非单独提出一种 EEG 分类算法。 核心机制包括三部分:ANN 用于 ExG 信号处理,SNN 用于神经尖峰信号处理;BNN 持续执行事件检测,仅在检测到事件后切换至高精度 CNN 识别模式;利用不同网络运算的相似性,由相同处理单元支持 BNN、CNN 与 SNN 的关键操作。作者称该共享架构相较朴素实现可减少面积并提高能效,但摘要未提供对应量化对照。 作者报告:在采用 SNN 的 center-out reaching 任务中,Accuracy 为 90.05%,能耗为 4.38 μJ/class;在采用双神经网络事件驱动处理的 EEG 癫痫发作预测任务中,Sensitivity 为 99.4%、Specificity 为 98.6%,能耗为 1.93 μJ/class。此外,EEG 癫痫发作检测、ECG 心律失常检测和 EMG 手势识别的分类 Accuracy 分别为 99.92%、99.38% 和 86.39%,对应能耗分别为 1.73、0.99 和 1.31 μJ/class。上述数值属于不同任务,不能直接比较;摘要未说明数据集、被试数、被试内或跨被试划分及能耗统计边界。 技术核对重点是事件检测漏检对后续识别的影响、检测与识别模式切换的时延,以及共享计算单元的资源开销。癫痫发作预测还需核对预测时间窗、评价单位及误报统计,不能将其与发作检测结果混用。复现需要确认硬件实现与工艺、网络训练和量化配置、事件触发规则,以及 μJ/class 是否覆盖持续检测和外围数据处理。实验协议、消融及统计信息尚未验证,代码与硬件设计的可获取性亦尚未验证。

    阅读价值:值得阅读其以共享计算单元兼容 ANN/SNN、以事件检测触发高精度识别的低功耗处理器设计;作者报告了多类神经与生理信号任务的性能和能耗,但实际部署价值仍需核对数据划分、事件触发协议及能耗测量边界。

  2. OpenReview · State space models77

    用于长视频理解的选择性结构化状态空间模型

    基于摘要分析。本文研究长视频中复杂时空依赖的高效建模,提出 Selective S4(S5),通过自适应筛选信息量较高的图像 token 减少计算负担,并引入 long-short masked contrastive learning(LSMCL),增强 token 筛选的鲁棒性与长时程上下文建模能力。 核心机制:作者认为,尽管 Structured State-Space Sequence(S4)具有线性复杂度,但对所有图像 token 同等处理会影响效率与准确率。S5 使用轻量掩码生成器选择 token,并由动量更新的 S4 模型提供引导,避免依赖稠密自注意力计算进行筛选。针对信息性 token 可能被误删的问题,LSMCL 使模型利用较短输入视频预测更长的时间上下文。具体掩码生成方式、对比目标、训练监督及推理流程尚未验证。 结果:在 LVU、COIN 和 Breakfast 三个长视频理解数据集的比较实验中,作者报告,相较此前的 S4 模型,Accuracy 提升最高达原文所述的 9.6%,内存占用降低 23%。摘要未明确 9.6% 是相对增幅还是百分点差,也未给出这些收益对应的具体任务、划分与配置,因此不能视为所有数据集均取得同等收益;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其潜在 EEG 对应问题是长时间序列中冗余片段的处理,但原方法依赖视频图像 token 与长短时间上下文,不等于已验证的 BCI 方法。可考虑复用状态空间骨干、筛选引导和长短对比思路,需重新定义 EEG 时间窗或通道 token,并核对监督需求。低信噪比可能使筛选器偏向伪迹,短暂判别信号可能被误删,被试与通道差异及小数据也可能降低筛选稳定性。一个可证伪的小实验是在固定 Cross-subject 划分与相同训练预算下,对比 S4、加入筛选的 S4 及再加入 LSMCL 的版本,同时记录任务指标、内存占用与保留比例。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对其以动量更新的 S4 引导 token 筛选、并用长短掩码对比学习缓解误删的方法机制;作者报告了长视频任务中的准确率与内存收益,但其 EEG 迁移价值尚未验证。

  3. OpenReview · State space models77

    用于长视频理解的选择性结构化状态空间模型

    基于摘要分析。本文研究长视频中复杂时空依赖的高效建模,提出 Selective S4(作者称为 S5),通过自适应筛选信息量较高的图像 token,改善 S4 对所有 token 同等处理带来的效率与准确性问题;同时引入 long-short masked contrastive learning(LSMCL),缓解错误丢弃重要 token 的风险并扩展可建模的时间范围。 核心机制是使用轻量掩码生成器选择图像 token,并利用动量更新的 S4 模型提供引导。与依赖 Transformer 的既有掩码式 token 缩减方法相比,该设计避免密集自注意力计算。LSMCL 则使模型通过较短输入视频预测更长时间上下文。具体筛选规则、引导信号、损失形式,以及长短视频的构造与训练流程,摘要未给出,尚未验证。 作者报告,在 LVU、COIN 和 Breakfast 三个长视频理解数据集的比较中,该方法相对此前的 S4 模型持续取得提升,准确率提升最高为原文所述的 9.6%,内存占用减少 23%。摘要未明确这些最大增益对应的数据集、任务、划分与资源测量条件,也未说明 9.6% 是相对增幅还是百分点差值,因此不能据此作跨协议比较;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其潜在 EEG 对应问题是长序列中的冗余片段与计算开销,而非已证实的 BCI 性能提升。迁移假设依赖于神经信号中存在可稳定识别的任务相关片段;可复用状态空间建模、选择器及长短上下文学习思路,但需将图像 token 改为时间片段或时空信号表征,并重新定义筛选监督与对比目标。低信噪比、短暂 ERP、跨被试差异及通道变化可能使选择器误删有效信息,小数据也可能削弱引导信号。一个可证伪的小实验是在固定 Cross-subject 划分及同一 EEG 编码器下,对照不筛选的 S4、随机筛选和学习式筛选,并分别核对 LSMCL 的贡献,同时报告任务指标、内存与关键片段保留情况。相关 EEG 工作尚未检索确认。

    阅读价值:值得核对其动量更新 S4 引导的 token 筛选与长短掩码对比学习能否兼顾长序列效率和信息保留,但摘要中的性能增益口径及其对 EEG 的适用性尚未验证。