跳到正文

算法、任务与模态

Conditional Computation 最新动态

Conditional Computation 研究索引;按可核对的标签归档,不以热度评价质量。

162 条精选近 30 天 57 条共收录 183 条

更新

精选归档 · 第 9 页

1月1日周五第 161–162 条
  1. OpenReview · State space models70

    面向多任务协同智能的潜在空间可伸缩性

    基于摘要分析。本文研究多任务协同智能中的潜在空间可伸缩性,主要任务为目标检测与输入重建。核心思路是按任务需要选择性解码潜在表示,使仅执行目标检测时不必重建输入像素,并通过训练损失各项的缩放系数调节检测准确性与重建质量之间的权衡。 机制上,部分潜在空间用于支持目标检测,其余部分可在需要输入重建时解码。作者提出,这种设计可降低仅需目标检测时的计算资源需求;摘要未给出潜在表示如何划分、各部分如何协同训练、具体损失形式及计算开销测量。作者报告,通过与相关基准比较的实验展示了两项任务性能的可调节性,但摘要未提供数据集、划分、基线名称或定量指标,尚不能判断性能权衡与资源节约的幅度。实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,将 EEG 解码所需表示与信号重建所需表示分开,使推理时仅启用任务相关解码模块,可能减少辅助重建带来的计算需求。原研究依赖目标检测与输入重建两类监督;迁移时需改造输入编码、任务输出及重建目标,不能直接沿用图像任务设定。低信噪比、跨被试差异、通道变化与小数据可能使任务信息和重建信息难以分离,选择性解码也可能损失有效信号。可在固定 EEG 数据划分与相同编码器条件下,对比完整解码与选择性解码的任务性能、重建误差及实测推理开销,以检验是否存在可重复的收益。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得关注其通过选择性解码潜在表示来区分检测与重建计算需求的机制,但实际计算收益、任务权衡及对 EEG/BCI 的适用性尚未验证。

1月1日周三
  1. OpenReview · State space models80

    STICKER:采用 65-nm CMOS 的高能效多稀疏度兼容卷积神经网络加速器

    基于摘要分析。STICKER 研究卷积神经网络硬件加速中的稀疏性利用问题,通过协同设计稀疏模式控制、可重配置存储与卷积计算阵列,适配不同层或模型的激活及权重稀疏分布;其主要贡献是硬件架构设计,而非新的神经信号解码算法。 摘要指出,不同层或模型的激活和权重稀疏率可处于 2%–99% 的范围。STICKER 提出三项机制:多稀疏度控制与数据流支持更细粒度的稀疏性利用,并可在九种稀疏模式间自动切换;多模式分层数据存储器根据稀疏模式重配置;兼容多稀疏度的组相联卷积处理单元(PE)阵列执行不同模式下的卷积,尤其针对激活与权重同时稀疏的情形。 作者报告,该处理器采用 65-nm CMOS 实现;在激活与权重的 sparsity ratios 均为 5% 时,峰值能效达到 62.1 TOPS/W。这里保留摘要的稀疏率表述,其具体定义及运算计数口径尚未验证。作者另报告,在摘要所称的“completely pruned Alexnet”模型上,能效为 2.82 TOPS/W,为其所比较先进处理器的 1.8 倍;剪枝配置、对照处理器、精度约束与功耗统计范围尚未验证,不能将这一结果直接推广到其他网络或部署条件。 平台推测(待验证):若边缘 EEG 解码采用具有可利用激活与权重稀疏性的卷积网络,这类控制、存储和计算协同机制可能用于降低推理能耗;它不直接解决 EEG 低信噪比或跨被试泛化问题。迁移需核对算子、数值精度及实际稀疏分布,小模型还可能因控制和访存开销而无法获益。可在固定解码模型、精度与输入条件下,对比启用和关闭稀疏模式时的实测能耗、延迟及任务指标,检验硬件收益。已有 EEG 相关工作尚未检索确认;完整实验协议、消融及统计信息尚未验证。

    阅读价值:值得关注其针对激活与权重不同稀疏分布协同设计控制、存储和计算阵列的硬件机制,但能效比较的运算计数口径及系统功耗边界尚需全文核对。