跳到正文
只看在线与系统算法#已接收
9月8日周二
  1. OpenReview · State space models73

    视觉状态空间模型的选择性操作量化

    基于摘要分析。该研究面向视觉 State Space Models（SSMs）在资源受限边缘设备上的部署，提出训练后量化（Post-Training Quantization，PTQ）方法 SELective Operation Quantization（SELOQ），重点解决选择性操作中特殊激活分布造成的量化困难。 核心机制是针对不同量化对象分别处理：作者分析指出，离散参数的分布具有长尾偏斜，隐藏状态序列则具有高度动态的变化；据此设计 Long-tailed Skewness Quantization（LtSQ）量化离散参数，以及 Temporal Scale Quantization（TSQ）量化隐藏状态，以降低量化误差。摘要未提供具体量化公式、位宽、尺度计算方式或校准数据要求，不能据此判断其实现开销与适用边界。 作者报告，在多个视觉任务、模型规模与架构上，SELOQ 对量化视觉 SSMs 的表现显著优于现有方法。摘要未列出任务与数据集名称、评估指标、具体数值及对照基线，因此尚不能量化收益，也不能将任务表现直接等同于真实设备上的加速或能耗改善；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若用于 EEG 的 SSM 同样出现离散参数长尾偏斜与隐藏状态尺度随时间变化，SELOQ 的分对象量化思路可能有助于边缘部署，但视觉模型中的有效性不等于 EEG/BCI 有效性。可复用的是 LtSQ 与 TSQ 的设计思路，需改造和核对的是 EEG 模型中的选择性操作实现、时间维度及校准数据覆盖。低信噪比、跨被试或通道变化可能使校准分布失配，小数据条件也可能难以覆盖隐藏状态变化。一个可检验的小实验是：在已有 EEG SSM 上固定数据划分、量化位宽与校准样本，对比常规 PTQ、分别加入 LtSQ 或 TSQ、以及两者组合，检查量化误差与原任务指标，并独立测量设备延迟。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其针对离散参数长尾偏斜与隐藏状态时序变化分别设计量化策略的机制，但性能收益、部署成本及向 EEG 模型迁移的有效性仍需核对。

7月10日周五
  1. OpenReview · Representation learning67

    遍历式表面精加工中基于人类纠正的运动约束在线学习

    基于摘要分析。研究针对打磨、抛光和研磨等接触密集型表面精加工任务，在作者此前的遍历控制（ergodic control）框架上引入人类物理纠正，使机器人在执行过程中在线调整运动约束与目标覆盖分布。核心贡献是将人工反馈纳入持续交互过程，同时修正机器人“在哪里作业”与“如何运动”。 机制上，遍历控制根据目标分布及历史覆盖情况组织机器人运动。摘要区分了两类互补的人类干预：接触过程中的纠正性引导用于更新运动约束；重新定位操作则用于更新期望覆盖分布，表达哪些区域需要更多或更少的作业关注。作者将这一扩展描述为从离线学习转向交互式人机协作，但摘要未给出约束的数学表示、反馈编码、更新规则、优化目标或实时计算要求。 作者报告提供了在真实工件上在线纠正运动偏好的视频演示。该材料支持存在演示这一事实，不能据此确认表面质量、覆盖效率、接触力控制或安全性能的改善。对照方法、实验协议、消融及统计信息尚未验证；复现还需核对机器人与工具配置、传感方式、人类干预识别机制，以及学习后的约束如何进入控制器。 平台推测（待验证）：该工作的潜在参考价值在于将人类反馈拆分为目标区域调整与执行约束调整，而不是直接提供 EEG 表征学习方法。摘要中的反馈来自物理干预，迁移到 BCI 还需要额外的意图解码及不确定性处理，不能将原任务中的交互机制视为已验证的 EEG/BCI 效果；已有 EEG 相关工作尚未检索确认。

5月1日周四
  1. OpenReview · State space models72

    状态空间模型的参数高效微调

    基于摘要分析。本文研究 Mamba 等深度状态空间模型（SSMs）的参数高效微调（PEFT），重点考察既有方法的表现及应调节的参数位置，并提出面向 SSM 模块的 Sparse Dimension Tuning（SDT），与用于线性投影矩阵的 LoRA 组合。 作者报告，LoRA 及其变体在所开展的比较中持续优于其他 PEFT 方法，但效果依赖于目标参数：LoRA 对线性投影矩阵有效，在 SSM 模块上则未奏效，尽管仍优于其他适用于 SSM 的方法。这里的关键研究问题是不同模块是否需要不同的微调机制，而非将同一种低秩更新统一施加到所有参数。摘要未说明 SDT 如何选择稀疏维度、更新哪些参数，以及其训练目标与参数预算。 作者报告，SDT 与 LoRA 的组合在广泛实验中达到最先进性能；但摘要未提供任务、数据集、模型规模、数据划分、对照基线或指标数值，因此尚不能判断优势的适用范围。实验协议、消融及统计信息尚未验证，复现还需核对 SDT 的实现、训练配置与各方法的可训练参数预算。 平台推测（待验证）：若 EEG 任务采用预训练 SSM，该模块分工式微调可能对应小数据条件下全量微调成本高、易过拟合的问题。可复用的是 SSM 模块使用 SDT、线性投影使用 LoRA 的适配思路；EEG 的通道输入、时间采样与任务输出仍需改造。原研究面向语言建模背景，具体预训练数据结构、监督方式与规模尚未验证，不能据此推定 EEG 效果。低信噪比、跨被试差异及通道变化可能使稀疏维度选择不稳定。一个可检验的小实验是在固定 EEG 预训练 SSM 和 Cross-subject 划分下，以匹配的可训练参数预算比较 LoRA 与 SDT＋LoRA，并检查多次运行的性能与稳定性。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其针对 SSM 模块与线性投影矩阵分别选择微调方法的分析，但 SDT 的具体机制及其相对 LoRA 的收益仍需全文核对。

10月10日周四
  1. OpenReview · State space models77

    状态空间模型的参数高效微调

    基于摘要分析。本文研究深度状态空间模型（SSMs，如 Mamba）中的参数高效微调（PEFT），比较既有方法的适用性，并分析哪些模块适合微调；在此基础上提出 LoRA with Selective Dimension tuning（SDLoRA），将线性投影矩阵上的 LoRA 与 SSM 模块内的选择性维度更新结合。 作者对四种基础 PEFT 方法进行了经验评估，报告 prompt-based 方法（如 prefix-tuning）在所研究的 SSM 模型与实验条件下不再有效，并提供理论分析支持；相比之下，LoRA 仍然有效。进一步的理论与实验分析表明，在其比较设置中，将 LoRA 应用于线性投影矩阵、而不修改 SSM 模块，效果最佳；作者同时报告，直接用 LoRA 调整 SSM 模块并不有效。这一结论针对具体微调方式，不等于 SSM 内部参数完全不值得更新。 SDLoRA 的机制是在 SSM 模块中选择性更新部分通道和状态，同时对线性投影矩阵应用 LoRA。作者报告该方法优于标准 LoRA，但摘要未给出数据集、任务组成、模型规模、可训练参数预算、指标或提升幅度；维度选择规则、训练配置、实验协议、消融及统计信息尚未验证。复现时需核对各方法的参数预算与训练条件，以及理论结论适用的模型假设。 平台推测（待验证）：若 EEG 任务已有可用的预训练 SSM，该方法可能为小数据微调提供候选方案；但原研究针对语言建模背景下的 SSM，不能据此认定其对 EEG 有效。迁移假设是选择性更新状态维度能够适应 EEG 时序差异，同时限制可训练参数规模。可复用部分是投影矩阵上的 LoRA 与选择性维度更新，需改造 EEG 输入表征及任务输出模块；低信噪比、跨被试差异和通道配置变化可能使所选维度失效。可在固定跨被试划分与匹配可训练参数预算的条件下，小规模比较标准 LoRA 与 SDLoRA，并检查多次运行的稳定性。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其关于 LoRA 在 SSM 内部模块与线性投影矩阵上效果差异的理论和实验分析，为选择参数高效微调的位置提供依据，但具体评估协议与效果幅度尚未验证。