跳到正文
只看在线与系统算法#迁移待评估
10月9日周五
  1. arXiv · 泛化与分布偏移77

    SparseDecoding：面向准确高效 LLM 推理的解码感知剪枝

    基于摘要分析。该研究针对 LLM 解码阶段受内存带宽限制，以及固定自然文本剪枝校准与模型自生成序列之间的分布偏移，提出 SparseDecoding：用稠密模型自回归生成时的逐层激活校准剪枝，并结合面向解码的稀疏计算内核，提高剪枝后的生成质量与推理效率。 机制上，作者指出，常见基于 Hessian 的逐层免训练剪枝使用预先收集的自然文本计算校准信息，而实际解码输入包含模型自生成 token；两类序列对应的 Hessian 与激活分布存在差异，可能损害剪枝模型的生成表现。SparseDecoding 从稠密模型自回归生成过程收集逐层激活并构建校准矩阵，明确排除 prefill 阶段，使剪枝目标更贴近解码阶段的激活。具体剪枝目标、Hessian 计算方式、稀疏率与校准样本规模尚未验证。 系统上，该方法针对解码中占主导的稀疏矩阵–向量乘法（SpMV），而非主要优化稀疏矩阵–矩阵乘法（SpMM），设计采用位掩码索引与固定步长遍历的 N:M 稀疏内核。其实际收益需要结合稀疏模式、生成长度、批大小及内核调用开销核对，不能仅由非零参数减少推断。 作者报告，在 Llama-3.1-8B、Llama-3.3-70B、Qwen3-14B / 32B 的长文本生成基准上，该方法持续优于标准固定文本校准，并在 A100 GPU 上获得最高 1.48 倍的端到端实际墙钟解码加速。摘要未给出基准名称、生成质量指标、加速峰值对应模型与配置，以及计时对照的具体设置；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可借鉴之处是让压缩校准数据匹配部署时的输入与激活分布，但这依赖自回归生成这一数据结构，不等同于已验证的 EEG/BCI 域适应方案。摘要未提供直接的 EEG 迁移机制或验证，已有 EEG 相关工作尚未检索确认。复现需取得校准生成流程、剪枝配置、内核实现及硬件计时协议；代码是否公开尚未验证。

    阅读价值：值得核对其生成阶段校准能否缓解剪枝时的激活分布偏移，以及 N:M 稀疏矩阵–向量内核在何种配置下带来实际解码加速；摘要提供了明确机制，但效果边界尚未验证。

10月8日周四
  1. arXiv · 在线与高效推理80

    告诉机器人不要做什么：否定理解视角

    基于摘要分析。研究关注 vision-language-action models（VLAs）如何在完成机器人操作目标的同时，遵守自然语言指令中的明确排除约束。作者提出参数高效、即插即用的 NegaAlign，通过图像—语言监督扩展预训练 VLA 的否定指令理解能力，并提出用于评估此类操作的仿真基准 NegaBench。 机制方面，NegaAlign 在视觉—语言骨干的选定层插入 Negation Transformation Layers，以重塑中间指令表征；同时使用教师引导的对齐机制，对齐与指令相关的视觉 tokens，从满足否定约束的指令中迁移动作相关的 grounding。训练监督由现有示范构建，仅更新插入层，所有预训练参数均冻结，包括动作生成器。摘要未提供教师构建方式、具体损失、插入位置及监督样本生成细节，这些内容尚未验证。 作者报告，NegaBench 覆盖五个领域的 10 个仿真场景，在 GR00T、π_0 和 π_{0.5} 上均观察到否定指令执行改善。其中，具有 11.6M 可训练参数的 NegaAlign 将 π_{0.5} 在 NegaBench 上的否定指令成功率从 2.60% 提升至 88.45%，在真实世界任务中从 12.4% 提升至 88.8%，并保留肯定指令上的性能。两组成功率对应不同评估环境，不宜直接横向比较；数据划分、真实任务数量、成功判据、对照配置、消融及统计信息尚未验证。 平台推测（待验证）：该方法可为带自然语言约束的 BCI 辅助机器人控制提供参考，但其监督依赖图像、语言与机器人示范，并非直接面向 EEG 解码。若引入 BCI 系统，可考察冻结动作模型的约束适配模块，但需改造脑信号到指令或控制意图的接口；低信噪比、跨被试差异及小数据可能使意图误差传递为约束执行错误。一个可检验的小实验是在固定机器人任务中比较正确指令与含受控解码错误的指令，分别测量任务成功率和约束违反率。相关 EEG/BCI 工作尚未检索确认。

    阅读价值：值得阅读的是 NegaAlign 如何仅用图像—语言监督、冻结动作生成器来改善否定指令执行；作者报告的较大成功率提升仍需结合 NegaBench 的划分、对照与真实机器人评估协议核对。

  2. arXiv · 在线与高效推理62

    UltraLight Luma：面向农业机器人作物行分割的新型边缘可部署感知网络

    基于摘要分析。该研究针对低成本农业机器人在计算、内存、功耗和推理时间约束下的作物行感知问题，提出紧凑的编码器—解码器分割网络 UltraLight Luma，并结合渐进式学习策略及掩码后处理，实现作物行检测与导航线提取。 核心流程是先预测作物行掩码，再通过后处理估计行对齐信息，供下游视觉伺服使用。作者报告模型仅含 13.1k 个可训练参数，相较 U-Net、YOLOv8 和 YOLOv26 提升了参数效率，并保持可靠的作物行检测性能；摘要未提供分割指标、具体基线配置或数据划分，不能据此认定精度优于这些对照。作者报告单次推理能耗为 25.23 mJ，但测量硬件、输入尺寸、数值精度及是否包含后处理尚未验证，因此该数值不能直接外推到其他设备。 摘要未说明渐进式学习的阶段安排、监督信号、训练目标及后处理细节。数据集、实验协议、消融及统计信息尚未验证；复现时需核对这些信息，以及推理延迟、峰值内存和能耗测量边界，才能判断其边缘部署收益。 平台推测（待验证）：可迁移到 EEG 的候选机制是紧凑编码器—解码器与渐进式学习，而非作物行几何后处理。原任务依赖图像空间结构和分割目标，具体标注形式与数据规模尚未验证；迁移至 EEG 时需改造输入表示、输出任务和训练阶段，以应对端侧计算约束。低信噪比、通道变化、小数据及跨被试差异可能使压缩模型丢失有效特征。一个可证伪的小实验是在固定 EEG 数据划分下，对比紧凑模型有无渐进式学习，并与较大基线共同测量任务指标、延迟和能耗；若资源收益伴随明显性能下降，则不支持该迁移假设。已有 EEG 相关工作尚未检索确认。

  3. arXiv · 在线与高效推理74

    通过 Cross-Step Attention 实现实时视频超分辨率的流式感知扩散

    基于摘要分析。该研究针对实时视频超分辨率（VSR）中扩散采样成本高、帧间协调不足的问题，将预训练单图像潜空间扩散模型适配为流式推理框架，通过复用相邻帧与扩散步的中间特征，在延迟约束下改善空间细节与时序一致性。 核心机制包括 Cross-Step Attention：复用相邻帧及扩散步的中间去噪特征，使时序信息在无需显式时序建模的情况下交换；以及 Trajectory-Coupled Diffusion Scheduling：对齐相邻扩散状态，为跨步条件化提供更干净的中间表示。流式管线逐帧增量传播潜状态。作者报告，对于 N 帧、S 个扩散步，有效计算复杂度由 O(N·S) 降至 O(N+S)；这一结论的计算口径、适用条件及冷启动成本尚未验证。 作者报告，在 REDS4 和 YouHQ40-Test 上改善了感知质量与时序真实感，同时维持逐帧稳定性；在 512×512 分辨率、冷启动之后达到超过 40 FPS。摘要未提供具体质量指标、对照基线、硬件、扩散步数及端到端延迟，因此不能仅凭吞吐判断实际部署条件下的实时性。实验协议、消融及统计信息尚未验证，复现还需核对特征缓存与潜状态传播的实现、显存开销及序列边界处理。 平台推测（待验证）：其跨步缓存机制可能启发采用迭代生成或去噪模型的流式 EEG 重建，但依赖相邻输入状态的连续性，不能直接等同于 BCI 解码收益。可复用的是中间特征缓存与状态调度思路，需改造的是 EEG 编码、通道表示及时间窗口接口；低信噪比、状态突变、跨被试差异和小数据训练可能导致误差持续传播。小规模可检验实验是在固定 EEG 去噪模型与连续窗口协议下，对比独立窗口推理和跨窗口缓存，联合测量重建误差、延迟与误差累积。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其跨帧、跨扩散步特征复用如何降低流式推理成本，尤其是冷启动后实时吞吐与时序稳定性的评估条件；摘要所述复杂度收益尚需全文验证。

  4. arXiv · 在线与高效推理75

    通过奇异向量选择平衡 LLM 持续学习中的稳定性与可塑性

    基于摘要分析。研究针对 LLM 领域持续适应中的灾难性遗忘，提出参数高效持续学习方法 SVC，以奇异向量通道作为分配可塑性与保留稳定性的基本单元，选择性更新通道，以兼顾新领域能力与预训练能力。 核心机制：作者将每个奇异向量通道视为一种输入—输出变换，更新通道用于学习新知识，固定通道用于保留预训练能力。微调前，SVC 使用领域数据估计各通道的适应收益，并仅将固定的公开通用领域语料作为历史激活代理，用于估计遗忘成本；随后通过基于拐点的成本筛选、Pareto-front 过滤与 Otsu 阈值法，自适应选择可训练通道。相较于仅限制可训练参数数量的 PEFT 思路，其关注点是以何种结构单元、依据何种收益与成本信号决定更新位置。具体评分公式、参数化方式、损失与训练开销尚未验证。 结果与证据边界：在覆盖四个 LLM 家族、八项下游任务的实验中，作者报告 SVC 相较现有 PEFT 基线更好地保留预训练能力，同时获得较强的下游表现；作者还报告通道评分与选择分析支持该机制。摘要未提供模型名称、数据集、任务顺序、划分、指标数值或基线配置，实验协议、消融及统计信息尚未验证，因此不能据此量化优势或判断不同持续学习设置下的适用范围。 平台推测（待验证）：若 EEG 预训练模型的权重也能分解为具有可用适应信号的奇异向量通道，该机制可能用于缓解跨被试或跨会话持续适应中的遗忘。可借鉴通道评分与筛选流程，但需改造领域收益评估及历史激活代理，不能直接用文本通用语料替代 EEG 历史数据。低信噪比、小样本和通道配置变化可能使评分不稳定，或使保留的通道不能代表原有能力。一个可检验的小实验是在固定 EEG 模型与顺序跨会话协议下，匹配可训练参数量，对比 SVC 式选择、随机通道选择与 PEFT 基线，同时测量新会话表现和旧会话性能变化。该迁移假设尚无本材料中的 EEG 证据支持，已有相关工作尚未检索确认。

    阅读价值：值得核对 SVC 如何将领域适应收益与遗忘成本落实到奇异向量通道选择，以及固定通用语料作为历史激活代理的有效性；摘要中的优势尚需结合完整实验协议验证。

  5. arXiv · 在线与高效推理82

    预算支出与学习的最优节奏控制

    基于摘要分析。该研究讨论对抗性环境下受预算约束的在线学习，核心贡献是针对任意预算节奏控制专家类建立近最优遗憾界，并将技术扩展到在线资源分配问题。 作者报告：给定包含 F 个专家的专家类及一个候选预算节奏调度，全信息算法相对于累计支出与该调度的距离不超过 D 的所有专家，获得 O(D√(log F) + √(T log F)) 的遗憾界。该结果将比较专家的支出轨迹约束纳入保证；作者称其匹配 Braverman 等人于 2025 年建立的下界。距离的具体定义、预算可行性条件及算法机制尚未验证。 在扩展的在线资源分配问题中，学习者能够观察当前可选方案的奖励与成本。作者报告，在允许分数分配的条件下，可获得 O(D√(log F)) 的遗憾界，并称这是其所知首个能够为此类任务实现 o(√T) 保证的算法。该结论需结合 D、F 随 T 的增长关系及具体问题假设理解，不能直接推广到离散分配或仅观察已选动作反馈的场景。 平台推测（待验证）：其潜在 BCI 联系是预算受限的在线采集或计算资源调度，而非直接改善 EEG 解码。迁移假设依赖于能否构造预算节奏专家，以及能否获得各候选动作的奖励和成本；实际 BCI 中未执行动作的收益往往不可观测，EEG 低信噪比与跨被试差异也可能使奖励估计不稳定。因此，全信息保证能否适用尚待评估，不据此提出已验证的 BCI 效果。相关 EEG 工作尚未检索确认；正文证明、实现与实验信息尚未验证。

    阅读价值：值得阅读其如何利用预算支出轨迹与候选调度的偏差控制遗憾界，但全信息反馈及允许分数分配的前提需要与实际资源调度任务逐项核对。

  6. arXiv · 在线与高效推理84

    Oracle 高效且无需预知参数的不可知平滑在线学习

    基于摘要分析。本文研究平滑在线学习中，如何在标签不必由固定假设完美预测、且未知数据基准分布的条件下，实现统计与计算上可行的在线学习。作者提出基于 Gaussian Follow-The-Perturbed-Leader 的算法，并报告其无需预知基准测度 μ、平滑参数 σ 或时间范围 T，即可获得次线性遗憾。 框架假设每轮协变量的条件分布相对于固定基准测度 μ 的密度不超过 1/σ，从而允许一定程度的数据依赖与对抗性，但并非完全不受约束的对抗环境。摘要指出，既有 oracle 高效算法需要从 μ 采样，或要求标签可由固定假设完美预测；本文旨在同时解除这两项要求。这里的“无需预知参数”指无需知道 μ、σ、T，不意味着模型没有参数，也不意味着无需平滑性假设。 作者报告：对于 VC 维为 d 的二元假设类，算法每轮调用一次经验风险最小化（ERM）oracle，遗憾上界为 Õ(d√(T/σ))，与最优界相差至多 √d 因子。该结果是理论遗憾保证，不是 Accuracy 或实际运行速度结果；oracle 调用次数也不能替代具体 ERM 求解的计算成本。扰动构造、oracle 接口、证明条件及实验协议、消融与统计信息尚未验证。 平台推测（待验证）：其机制可能为 EEG 在线二分类中应对分布漂移提供理论参考，但前提是特征分布满足相应平滑性条件，且所选假设类具有可用的 ERM 求解器。可复用的是扰动式在线决策与逐轮更新思路；需改造 EEG 特征、标签反馈与求解接口。低信噪比、被试或通道变化及小样本可能使平滑性或计算可行性难以成立。一个可检验的小实验是在固定被试、固定通道的带标签 EEG 数据流上，按时间顺序先预测后更新，与使用相同特征和假设类的在线基线比较累积错误及 ERM 耗时；这不能单独验证理论平滑性假设。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其 Gaussian Follow-The-Perturbed-Leader 如何在未知基准测度与平滑参数时，仅用每轮一次 ERM oracle 调用获得不可知情形下的次线性遗憾；这一保证依赖平滑性假设，尚不能直接视为 EEG 在线适应效果。

10月3日周六
  1. arXiv · 时序与音频基础模型75

    SEER：面向时间序列预测的自演进事件推理与检索

    基于摘要分析。该研究针对外生事件与结构变化驱动的时间序列预测，提出 SEER（Self-Evolving Event Reasoning and Retrieval）闭环框架，通过预测误差持续优化外部事件条件信息，试图弥补仅依赖历史数值观测及常规检索增强方法的不足。 核心机制是将预测误差转化为两种解耦反馈：一是反思式检索记忆，用于改进后续搜索查询并过滤无关噪声；二是持久化因果知识库，用于提炼可迁移的领域动态规律。摘要将高噪声、信号缺失及事件影响的因果推理能力不足列为常规检索增强方法的难点，但尚未给出 SEER 的具体知识表示、更新规则、训练目标或预测器接口。因果知识库的命名也不等同于已完成因果识别验证。 作者报告，在六个高波动时间序列基准上，SEER 持续优于所比较的先进时间序列基础模型及语言模型基线。摘要未提供基准名称、划分、预测跨度、指标、数值或基线配置，因此尚不能判断优势幅度及不同协议下的适用范围。作者称事件检索与反思均遵守严格时间边界，以防止前视偏差和数据泄漏；具体实施方式、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 预测任务具有带可靠时间戳的外部事件或上下文记录，可假设检索记忆与领域知识积累有助于应对状态变化；这不构成已验证的 EEG/BCI 效果。可复用的是反馈分离思路，需改造事件表示、检索源及反馈更新时机。低信噪比、被试差异、通道变化和小数据可能使误差反馈误归因并积累错误知识。一个可检验的小实验是在固定 EEG 预测任务与按时间划分的协议下，对比数值预测器、静态事件检索与闭环反馈，并分别关闭两类反馈，检查收益是否稳定。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对的是 SEER 如何将预测误差分别用于检索记忆更新与因果知识积累，以及检索和反思的时间边界如何落实；其性能优势目前仅有摘要中的作者报告。