跳到正文
#Efficient AI
10月9日周五
  1. arXiv · 泛化与分布偏移77

    SparseDecoding：面向准确高效 LLM 推理的解码感知剪枝

    基于摘要分析。该研究针对 LLM 解码阶段受内存带宽限制，以及固定自然文本剪枝校准与模型自生成序列之间的分布偏移，提出 SparseDecoding：用稠密模型自回归生成时的逐层激活校准剪枝，并结合面向解码的稀疏计算内核，提高剪枝后的生成质量与推理效率。 机制上，作者指出，常见基于 Hessian 的逐层免训练剪枝使用预先收集的自然文本计算校准信息，而实际解码输入包含模型自生成 token；两类序列对应的 Hessian 与激活分布存在差异，可能损害剪枝模型的生成表现。SparseDecoding 从稠密模型自回归生成过程收集逐层激活并构建校准矩阵，明确排除 prefill 阶段，使剪枝目标更贴近解码阶段的激活。具体剪枝目标、Hessian 计算方式、稀疏率与校准样本规模尚未验证。 系统上，该方法针对解码中占主导的稀疏矩阵–向量乘法（SpMV），而非主要优化稀疏矩阵–矩阵乘法（SpMM），设计采用位掩码索引与固定步长遍历的 N:M 稀疏内核。其实际收益需要结合稀疏模式、生成长度、批大小及内核调用开销核对，不能仅由非零参数减少推断。 作者报告，在 Llama-3.1-8B、Llama-3.3-70B、Qwen3-14B / 32B 的长文本生成基准上，该方法持续优于标准固定文本校准，并在 A100 GPU 上获得最高 1.48 倍的端到端实际墙钟解码加速。摘要未给出基准名称、生成质量指标、加速峰值对应模型与配置，以及计时对照的具体设置；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可借鉴之处是让压缩校准数据匹配部署时的输入与激活分布，但这依赖自回归生成这一数据结构，不等同于已验证的 EEG/BCI 域适应方案。摘要未提供直接的 EEG 迁移机制或验证，已有 EEG 相关工作尚未检索确认。复现需取得校准生成流程、剪枝配置、内核实现及硬件计时协议；代码是否公开尚未验证。

    阅读价值：值得核对其生成阶段校准能否缓解剪枝时的激活分布偏移，以及 N:M 稀疏矩阵–向量内核在何种配置下带来实际解码加速；摘要提供了明确机制，但效果边界尚未验证。

10月8日周四
  1. arXiv · 在线与高效推理80

    告诉机器人不要做什么：否定理解视角

    基于摘要分析。研究关注 vision-language-action models（VLAs）如何在完成机器人操作目标的同时，遵守自然语言指令中的明确排除约束。作者提出参数高效、即插即用的 NegaAlign，通过图像—语言监督扩展预训练 VLA 的否定指令理解能力，并提出用于评估此类操作的仿真基准 NegaBench。 机制方面，NegaAlign 在视觉—语言骨干的选定层插入 Negation Transformation Layers，以重塑中间指令表征；同时使用教师引导的对齐机制，对齐与指令相关的视觉 tokens，从满足否定约束的指令中迁移动作相关的 grounding。训练监督由现有示范构建，仅更新插入层，所有预训练参数均冻结，包括动作生成器。摘要未提供教师构建方式、具体损失、插入位置及监督样本生成细节，这些内容尚未验证。 作者报告，NegaBench 覆盖五个领域的 10 个仿真场景，在 GR00T、π_0 和 π_{0.5} 上均观察到否定指令执行改善。其中，具有 11.6M 可训练参数的 NegaAlign 将 π_{0.5} 在 NegaBench 上的否定指令成功率从 2.60% 提升至 88.45%，在真实世界任务中从 12.4% 提升至 88.8%，并保留肯定指令上的性能。两组成功率对应不同评估环境，不宜直接横向比较；数据划分、真实任务数量、成功判据、对照配置、消融及统计信息尚未验证。 平台推测（待验证）：该方法可为带自然语言约束的 BCI 辅助机器人控制提供参考，但其监督依赖图像、语言与机器人示范，并非直接面向 EEG 解码。若引入 BCI 系统，可考察冻结动作模型的约束适配模块，但需改造脑信号到指令或控制意图的接口；低信噪比、跨被试差异及小数据可能使意图误差传递为约束执行错误。一个可检验的小实验是在固定机器人任务中比较正确指令与含受控解码错误的指令，分别测量任务成功率和约束违反率。相关 EEG/BCI 工作尚未检索确认。

    阅读价值：值得阅读的是 NegaAlign 如何仅用图像—语言监督、冻结动作生成器来改善否定指令执行；作者报告的较大成功率提升仍需结合 NegaBench 的划分、对照与真实机器人评估协议核对。

  2. arXiv · 在线与高效推理62

    UltraLight Luma：面向农业机器人作物行分割的新型边缘可部署感知网络

    基于摘要分析。该研究针对低成本农业机器人在计算、内存、功耗和推理时间约束下的作物行感知问题，提出紧凑的编码器—解码器分割网络 UltraLight Luma，并结合渐进式学习策略及掩码后处理，实现作物行检测与导航线提取。 核心流程是先预测作物行掩码，再通过后处理估计行对齐信息，供下游视觉伺服使用。作者报告模型仅含 13.1k 个可训练参数，相较 U-Net、YOLOv8 和 YOLOv26 提升了参数效率，并保持可靠的作物行检测性能；摘要未提供分割指标、具体基线配置或数据划分，不能据此认定精度优于这些对照。作者报告单次推理能耗为 25.23 mJ，但测量硬件、输入尺寸、数值精度及是否包含后处理尚未验证，因此该数值不能直接外推到其他设备。 摘要未说明渐进式学习的阶段安排、监督信号、训练目标及后处理细节。数据集、实验协议、消融及统计信息尚未验证；复现时需核对这些信息，以及推理延迟、峰值内存和能耗测量边界，才能判断其边缘部署收益。 平台推测（待验证）：可迁移到 EEG 的候选机制是紧凑编码器—解码器与渐进式学习，而非作物行几何后处理。原任务依赖图像空间结构和分割目标，具体标注形式与数据规模尚未验证；迁移至 EEG 时需改造输入表示、输出任务和训练阶段，以应对端侧计算约束。低信噪比、通道变化、小数据及跨被试差异可能使压缩模型丢失有效特征。一个可证伪的小实验是在固定 EEG 数据划分下，对比紧凑模型有无渐进式学习，并与较大基线共同测量任务指标、延迟和能耗；若资源收益伴随明显性能下降，则不支持该迁移假设。已有 EEG 相关工作尚未检索确认。

  3. arXiv · 在线与高效推理74

    通过 Cross-Step Attention 实现实时视频超分辨率的流式感知扩散

    基于摘要分析。该研究针对实时视频超分辨率（VSR）中扩散采样成本高、帧间协调不足的问题，将预训练单图像潜空间扩散模型适配为流式推理框架，通过复用相邻帧与扩散步的中间特征，在延迟约束下改善空间细节与时序一致性。 核心机制包括 Cross-Step Attention：复用相邻帧及扩散步的中间去噪特征，使时序信息在无需显式时序建模的情况下交换；以及 Trajectory-Coupled Diffusion Scheduling：对齐相邻扩散状态，为跨步条件化提供更干净的中间表示。流式管线逐帧增量传播潜状态。作者报告，对于 N 帧、S 个扩散步，有效计算复杂度由 O(N·S) 降至 O(N+S)；这一结论的计算口径、适用条件及冷启动成本尚未验证。 作者报告，在 REDS4 和 YouHQ40-Test 上改善了感知质量与时序真实感，同时维持逐帧稳定性；在 512×512 分辨率、冷启动之后达到超过 40 FPS。摘要未提供具体质量指标、对照基线、硬件、扩散步数及端到端延迟，因此不能仅凭吞吐判断实际部署条件下的实时性。实验协议、消融及统计信息尚未验证，复现还需核对特征缓存与潜状态传播的实现、显存开销及序列边界处理。 平台推测（待验证）：其跨步缓存机制可能启发采用迭代生成或去噪模型的流式 EEG 重建，但依赖相邻输入状态的连续性，不能直接等同于 BCI 解码收益。可复用的是中间特征缓存与状态调度思路，需改造的是 EEG 编码、通道表示及时间窗口接口；低信噪比、状态突变、跨被试差异和小数据训练可能导致误差持续传播。小规模可检验实验是在固定 EEG 去噪模型与连续窗口协议下，对比独立窗口推理和跨窗口缓存，联合测量重建误差、延迟与误差累积。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其跨帧、跨扩散步特征复用如何降低流式推理成本，尤其是冷启动后实时吞吐与时序稳定性的评估条件；摘要所述复杂度收益尚需全文验证。

  4. arXiv · 在线与高效推理74

    适应位置的重要性：面向能力保留的层选择性微调

    基于摘要分析。研究关注 LLM 的参数高效微调（PEFT）在适应专门任务时可能损害预训练通用能力的问题，提出 Layer-Selective LoRA（LS-LoRA）：以各 Transformer 层的输入—输出余弦相似度筛选适应位置，仅在低相似度层部署可训练 LoRA 适配器。 核心机制是将“在哪里适应”作为优化对象，而不是主要依赖数据回放或显式正则化约束。作者用逐层经验 Fisher 信息衡量目标任务敏感性，但其计算需要反向传播；因此提出仅需前向计算的输入—输出余弦相似度作为层敏感性排序的轻量代理。作者报告，在所评估的模型与任务中，较低的输入—输出相似度对应较高的经验 Fisher 分数。该观察支持选择低相似度层进行适应，但摘要未提供相似度聚合方式、层选择阈值及额外计算开销。 作者报告，在数学推理和代码生成实验中，相较标准全层 LoRA，LS-LoRA 提升了平均目标任务表现，并保留了更多常识推理能力。摘要未给出具体模型、数据集、指标数值、训练与评估划分，也未说明适配器参数预算是否匹配；实验协议、消融及统计信息尚未验证。需核对收益究竟来自层位置选择、可训练参数减少，还是两者共同作用，以及常识推理评估能代表多大范围的通用能力。 平台推测（待验证）：若 EEG Transformer 的层输入—输出相似度也能反映下游任务敏感性，这种选择性适应可能用于检验跨被试或跨数据集微调时的能力保留。可复用模块是逐层前向相似度计算与 LoRA 层选择；需改造相似度在 EEG 时间片段和通道维度上的聚合方式，并依赖已有预训练编码器与下游监督数据。低信噪比、通道差异及小样本可能使层排序不稳定，LLM 中的代理关系不能直接视为 EEG 结论。一个可证伪的小实验是固定 EEG 编码器、跨被试划分与训练预算，对比低相似度层、高相似度层、随机层及全层 LoRA，同时核对相似度与经验 Fisher 排序的一致性，并评估目标任务及原任务保留情况。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对输入—输出余弦相似度能否稳定替代逐层经验 Fisher 信息，以及选择性部署 LoRA 是否在可比训练条件下改善目标任务适应与通用能力保留的权衡。

  5. arXiv · 在线与高效推理80

    SV-TAD：用于高效时序动作检测的原生稀疏卷积

    基于摘要分析。该研究针对长视频理解中轻量卷积适配器虽能降低可训练参数量、却未充分降低推理计算的问题，提出原生稀疏二维卷积，并将其集成到时序动作检测框架 SV-TAD，使适配器直接处理动态剪枝后的 token 集合。 核心机制是解决 token 选择与卷积适配器之间的结构冲突：剪枝可降低注意力计算，但会破坏卷积依赖的空间网格，若先重建稠密表示，可能抵消加速收益。作者提出的稀疏算子旨在绕过这一重建步骤。摘要未说明 token 选择策略、稀疏邻域构建、卷积实现、损失函数或训练配置，这些细节尚未验证。 作者报告，在 THUMOS-14 和 ActivityNet-1.3 的时序动作检测评估中，采用 VideoMAEv2-L 时计算量最多降低 64%，推理速度达到 2.2 倍，同时维持作者所称的当前最佳精度；摘要未提供具体精度指标、对应划分、基线配置、硬件及计时范围，无法判断两项效率数字是否对应同一设置。作者还报告，扩展到 InternVideoNext-L 后，以约一半计算成本超过此前最佳结果，但具体指标与对照条件尚未验证。稀疏表示亦支持辅助任务 token，作者报告其改善了 ATTACH 上的细粒度装配检测，未给出提升幅度。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 时频表示采用网格化 token 与卷积适配器，这种避免稠密重建的机制可能用于降低推理开销；该假设不代表已证实的 BCI 效果。可复用的是稀疏卷积处理路径，需改造 token 选择及邻域定义，以适应时间、频率与通道结构。低信噪比下剪枝可能删除弱判别信号，通道差异与小数据也可能使选择策略不稳定。一个可检验的小实验是在固定 EEG 任务、数据划分及骨干下，对比稠密适配器、剪枝后稠密重建、直接稀疏卷积三种路径，同时记录任务指标与同一硬件上的端到端延迟。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其原生稀疏卷积如何避免 token 剪枝后的稠密重建开销，以及计算量下降能否在不同骨干与实际推理环境中转化为稳定加速。

  6. arXiv · 学习目标与优化74

    从单一提示到功能集合：演化功能集合 EFRE 支持 LLM 持续学习

    基于摘要分析。本文研究 LLM 如何在连续获取新技能和知识时保留已有能力，提出 Evolving Functional REpertoires（EFRE）：以随任务演化的功能集合替代单一提示，通过细化已有功能或产生新功能处理连续任务中的更新冲突。 核心机制：作者将提示优化作为避免昂贵参数更新的适应途径，但作者报告，在顺序任务适应中，单一提示优化仍会出现灾难性遗忘，累积的规则也会过拟合局部任务分布。EFRE 对兼容更新细化已有功能，对冲突更新产生新功能。摘要未说明功能的具体表示、兼容性判定、推理时的选择方式及优化流程，这些机制尚未验证。 结果：作者报告，在一个三任务持续学习序列上，EFRE 的最终平均表现比 GRPO 高 7.50 个百分点；在适应 Bio 任务后，其 FinQA 表现下降 1.56 个百分点，而基础提示优化方法下降 25.10 个百分点。摘要未给出具体指标、完整任务顺序、数据划分及预算，不能将这些差值解释为 Accuracy，也不能据此推断跨协议优势。作者还报告，将 EFRE 实例化为最小智能体系统后，在不同骨干模型上观察到一致改进，但模型名称与逐项结果尚未验证。 复现重点是核对冲突判定与功能增长策略、任务间能力保持的评估方式，以及提示优化、EFRE 和 GRPO 的资源与监督条件。实验协议、消融及统计信息尚未验证。本文证据限于 LLM 持续学习，不构成 EEG/BCI 解码效果的证据；功能集合如何对应 EEG 任务、通道或被试差异尚不明确，暂不据此提出具体迁移方案。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 EFRE 如何判定更新兼容性并组织功能集合，以及其相对单一提示优化和 GRPO 的持续学习收益能否在一致评估与资源预算下复现。

  7. arXiv · 在线与高效推理72

    Q-Capsule：用于缓解贫瘠高原的局部化胶囊式量子神经网络架构

    基于摘要分析。该研究针对变分量子算法随电路宽度和深度增加而出现梯度消失的贫瘠高原问题，提出 Q-Capsule，通过局部化量子表示及自适应电路深度，在保留胶囊间通信的同时维持可用于优化的梯度信号。 核心机制包括量子寄存器划分、局部读出、稀疏胶囊间耦合、可训练的数据重上传，以及 Quantum Fisher Information Matrix（QFIM）引导的自适应深度增长。其设计思路是将每个可观测量的主要作用范围限制在较小胶囊内，并控制胶囊间纠缠，避免全局耦合带来的梯度抑制。具体电路结构、胶囊规模、耦合方式、损失函数及深度增长判据尚未验证。 作者报告，在增大量子寄存器宽度的实验中，Q-Capsule 的梯度方差保持稳定，而全局纠缠基线的梯度方差呈指数衰减，对数量梯度方差随量子比特数变化的斜率接近 −ln 2。作者还报告更有结构的优化景观、更高的参数效率、对去极化噪声更好的鲁棒性及更低的测量需求，但摘要未给出这些比较的完整条件与量化结果。 在摘要所述分类实验中，作者报告自适应策略在二分类与四分类任务上的 Accuracy 分别为 98.1% 和 97.7%；在多分类任务上，相对固定深度模型，双量子比特门数量减少约 73%。数据集、样本规模、划分方式、基线配置、重复实验及统计信息尚未验证，因此这些数值不能直接与其他分类研究比较。 平台推测（待验证）：其潜在 EEG 关联主要在量子分类器的可训练性与资源开销，而非已证实的 BCI 解码收益。迁移假设依赖 EEG 特征的量子编码及局部划分能否保留任务信息；可复用局部读出和自适应深度机制，但需改造特征编码与胶囊划分。低信噪比、跨被试差异、小样本及跨通道依赖可能削弱收益。可在固定 EEG 特征与相同被试内划分下，对比局部化、全局纠缠及固定深度电路，检验梯度方差、Accuracy、门数与测量预算的权衡。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对局部可观测量与 QFIM 引导深度增长能否共同缓解梯度消失，并复现其相对全局纠缠及固定深度基线的梯度、门数与测量开销优势；摘要尚不足以确认比较协议。

  8. arXiv · 在线与高效推理77

    突破群体规模限制：基于 Chain-of-Dancers 的参数高效群舞生成

    基于摘要分析。该研究针对音乐驱动群舞生成中群体规模固定、舞者身份跨帧混杂及空间协调难以兼顾的问题，提出 ChainDance，将多人联合生成改写为 Chain-of-Dancers，即按舞者逐个建模条件分布。作者称，单一模型可在无需重训的情况下适配不同舞者数量，并在结构上保持各舞者身份。 机制上，ChainDance 以冻结的单舞者扩散模型为骨干，引入两个轻量模块：Role-Aware Text Encoder（RATE）提供舞者级语义条件；Group-Aware Motion Encoder（GAME）通过距离加权图卷积网络聚合此前已生成舞者的信息。推理阶段另采用无需训练的噪声优化过程，以增强全局空间一致性。相较摘要所述的端到端联合 Transformer，关键变化是将群体依赖转为逐舞者条件生成，并复用单舞者骨干；具体条件分布、损失及噪声优化目标尚未验证。 作者报告，在 AIOZ-GDance 上，相较既有方法，ChainDance 达到作者所称的 SOTA 动作质量与群体协调性，参数量少 3–4 倍、训练时间少 3–6 倍。摘要未提供指标数值、具体对照、数据划分、训练与测试群体规模、计时硬件及可训练参数口径，因此这些结果暂不能用于跨协议比较。实验协议、消融及统计信息尚未验证；还需核对身份保持的评估方式、生成顺序是否影响结果，以及逐舞者生成和噪声优化对推理耗时的影响。 平台推测（待验证）：其可变数量实体条件建模机制可能启发 EEG 可变通道建模，但这是迁移假设，而非已证实的 BCI 效果。可复用思路是条件分解与图聚合；需将舞者角色和空间距离改造为电极位置、通道属性及适合 EEG 的依赖关系，并重新设计训练目标。EEG 通道不等同于独立舞者，低信噪比、容积传导、跨被试差异与小数据可能使顺序误差累积。可在固定被试划分下比较联合通道建模与逐通道条件重建，测试未见通道数量、随机生成顺序和噪声扰动下的重建误差及下游解码表现。已有相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其按舞者条件分解、冻结扩散骨干与轻量群体编码的组合能否真正支持无需重训的可变群体规模，尤其需验证规模外推、生成顺序敏感性及推理成本。

  9. arXiv · 泛化与分布偏移72

    室内空气质量监测中的低成本传感器校准：数据集、评估场景与轻量模型

    基于摘要分析。研究针对低成本室内空气质量传感器的非线性失真、噪声与时间漂移，提出包含参考传感器测量的数据集、四类评估场景及轻量时序校准模型，旨在缓解传统严格成对校准对各部署地点共址参考传感器的依赖，并评估空间与时间异质性。 数据集覆盖五个地点、六个月的多变量室内空气质量测量，包含低成本传感器、参考传感器及上下文元数据。四类场景分别为 reference-efficient、location-transfer、long-term drift 和 event-conditioned：前两类评估空间泛化，后两类评估对渐进及突发分布偏移的稳健性。具体参考数据用量、地点划分、时间切分与事件定义尚未验证，不能将这些场景视为统一难度的测试。 模型结合输入窗口压缩、残差时序融合与特征融合，设计目标是兼顾校准能力和边缘推理成本。作者报告，在上述四类场景中均取得较强校准表现且边缘推理成本较低；摘要未提供具体指标、数值、对照基线或设备条件，损失函数、训练流程、消融及统计信息尚未验证。 平台推测（待验证）：其空间迁移与时间漂移评估思路可能对应 EEG 的跨被试、跨会话分布偏移，但原任务依赖低成本与参考传感器测量，不能直接等同于 EEG 解码监督。可考虑复用窗口压缩与时序、特征融合思路，需改造通道表示、输出目标和监督方式；EEG 低信噪比、通道差异及小数据可能使压缩丢失判别信息。一个可检验的假设是：在固定训练数据量和相同跨会话划分下，比较加入与不加入窗口压缩的同一 EEG 模型，检验推理成本降低是否伴随解码性能损失。已有 EEG 相关工作尚未检索确认。

    阅读价值：该工作将低成本传感器校准拆分为空间泛化、长期漂移与事件条件下的评估场景，值得核对其划分协议及轻量时序模型如何应对不同分布偏移，但摘要中的性能与推理成本结论尚待全文验证。

  10. arXiv · 在线与高效推理70

    通过协同过滤路径实现多模态图检索增强的序列推荐

    基于摘要分析。该研究针对多模态序列推荐中仅依赖目标用户历史、忽略邻近用户协同信号，以及反复调用 Multimodal Large Language Models（MLLMs）处理长历史所带来的计算开销，提出 MGRASRec。其核心贡献是按候选物品检索用户—物品交互图中的结构化路径，将协同过滤信息与相关历史整合到提示中，再对 MLLM 进行参数高效微调。 机制上，MGRASRec 通过多模态相似性扩展交互图，扩大超出精确共同交互重叠的检索覆盖范围；候选物品条件化的路径检索同时找出与候选最相关的历史物品。作者称，这一过程无需额外成本即可筛选历史，免去反复摘要，并使每个候选物品的 MLLM 推理保持为一次前向传播。该描述不等于完整推荐流程仅需一次前向传播，图检索开销、候选数量及端到端延迟尚未验证。 作者报告，在三个公开数据集上的评估中，MGRASRec 在所有所评指标上取得最佳表现，排名质量提升尤其明显。摘要未提供数据集名称、指标数值、数据划分或对照基线，因此无法核对提升幅度及比较条件。图构建与路径选择规则、多模态相似性计算、提示格式、微调配置、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移价值主要在于“围绕待判断对象检索关系证据并压缩上下文”，而非已证实的 EEG/BCI 效果。假设 EEG 任务具备可信的试次—被试—任务关系及可比较的多模态表征，可尝试复用图路径检索与上下文筛选；交互图语义、候选定义和监督目标则需重构。低信噪比、跨被试差异、通道不一致及小数据可能导致相似性失真和无关证据引入。一个可检验的小实验是在固定跨被试划分下，对比无检索、相似性检索与关系路径检索，并限定图构建仅使用训练集，核对预测效果与总推理成本。相关 EEG 工作尚未检索确认。

    阅读价值：值得关注候选物品条件化的图路径检索如何同时补充协同信号并筛选相关历史，但排名收益与单候选推理成本仍需结合全文实验协议核验。

  11. arXiv · 学习目标与优化75

    动力学即编码：通过动态系统进行模型压缩

    基于摘要分析。本文研究预训练神经网络在内存与计算约束下的模型压缩，将已有动态系统（DS）权重编码范式扩展为统一框架，并给出 irrational winding 的有限轨迹覆盖界。其核心是以动态系统轨迹中的状态索引表示高维权重向量，解压时由对应状态恢复权重，而非直接采用剪枝、量化、知识蒸馏或低秩分解。 理论方面，作者证明：在满足 Diophantine 条件时，irrational winding 中包含 M = O(ε^{-(d+ν)}) 个状态的有限轨迹可构成 d 维权重空间的 ε-net，从而联系状态分辨率、解压误差与压缩率。该界依赖明确条件，不能直接等同于任意模型权重的实用压缩保证；ν 的具体定义、适用权重域及常数尚需正文核对。 方法方面，框架统一了空间填充曲线（Hilbert、Peano、Morton/Z-order、Snake）、混沌系统（Lorenz）、同余与伪随机生成器（LCG、PCG）及低差异序列（Halton）。作者引入 KD-tree 与 coordinate-template 加速以扩展至大模型，并利用异常值识别控制误差。权重分组方式、状态索引存储成本、异常值处理细节及各系统的选择条件尚未验证。 作者报告，在 ResNet-18、Qwen2.5-1.5B 和 Qwen1.5-7B 实验中，该方法无需事后重训练即可取得有竞争力的压缩率，并具有可控解压误差和灵活的状态空间设计。摘要未提供具体压缩率、任务性能、数据集、对照基线或运行开销；实验协议、消融及统计信息尚未验证。复现时应同时核对编码搜索成本、解压延迟、额外元数据与任务性能，而不能仅依据权重重构误差判断部署价值。 平台推测（待验证）：若用于 EEG 模型部署，可复用轨迹索引编码与权重恢复模块，但需按模型权重尺度和分组方式调整状态空间，并评估低信噪比下任务输出对权重扰动的敏感性。小模型的索引和异常值存储开销可能抵消压缩收益。可在固定 Cross-subject 划分的已有 EEG 分类模型上，不重训练地比较压缩前后 Accuracy、存储量与推理延迟，检验该假设。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对的是动态系统轨迹索引如何在无需事后重训练的条件下实现权重压缩，以及其理论误差界能否转化为包含索引搜索、解压开销和任务性能的实际收益。

  12. arXiv · 在线与高效推理75

    通过奇异向量选择平衡 LLM 持续学习中的稳定性与可塑性

    基于摘要分析。研究针对 LLM 领域持续适应中的灾难性遗忘，提出参数高效持续学习方法 SVC，以奇异向量通道作为分配可塑性与保留稳定性的基本单元，选择性更新通道，以兼顾新领域能力与预训练能力。 核心机制：作者将每个奇异向量通道视为一种输入—输出变换，更新通道用于学习新知识，固定通道用于保留预训练能力。微调前，SVC 使用领域数据估计各通道的适应收益，并仅将固定的公开通用领域语料作为历史激活代理，用于估计遗忘成本；随后通过基于拐点的成本筛选、Pareto-front 过滤与 Otsu 阈值法，自适应选择可训练通道。相较于仅限制可训练参数数量的 PEFT 思路，其关注点是以何种结构单元、依据何种收益与成本信号决定更新位置。具体评分公式、参数化方式、损失与训练开销尚未验证。 结果与证据边界：在覆盖四个 LLM 家族、八项下游任务的实验中，作者报告 SVC 相较现有 PEFT 基线更好地保留预训练能力，同时获得较强的下游表现；作者还报告通道评分与选择分析支持该机制。摘要未提供模型名称、数据集、任务顺序、划分、指标数值或基线配置，实验协议、消融及统计信息尚未验证，因此不能据此量化优势或判断不同持续学习设置下的适用范围。 平台推测（待验证）：若 EEG 预训练模型的权重也能分解为具有可用适应信号的奇异向量通道，该机制可能用于缓解跨被试或跨会话持续适应中的遗忘。可借鉴通道评分与筛选流程，但需改造领域收益评估及历史激活代理，不能直接用文本通用语料替代 EEG 历史数据。低信噪比、小样本和通道配置变化可能使评分不稳定，或使保留的通道不能代表原有能力。一个可检验的小实验是在固定 EEG 模型与顺序跨会话协议下，匹配可训练参数量，对比 SVC 式选择、随机通道选择与 PEFT 基线，同时测量新会话表现和旧会话性能变化。该迁移假设尚无本材料中的 EEG 证据支持，已有相关工作尚未检索确认。

    阅读价值：值得核对 SVC 如何将领域适应收益与遗忘成本落实到奇异向量通道选择，以及固定通用语料作为历史激活代理的有效性；摘要中的优势尚需结合完整实验协议验证。

  13. arXiv · 学习目标与优化72

    KDFP：大语言模型知识蒸馏的第一性原理方法

    基于摘要分析。该研究关注大语言模型的通用知识蒸馏，而非主要蒸馏指令遵循、chain-of-thought 推理或工具使用等后训练能力。作者结合既有研究经验与新探索，提出白盒知识蒸馏方法 KDFP，目标是提升小型学生模型的能力，为高效、适合边缘设备部署的系统提供方法基础。 技术上，摘要将 KDFP 描述为面向现代 LLM 的通用知识蒸馏方法，并指出其通过 ephemeral parameter reduction 提高训练效率。白盒设定意味着方法依赖教师模型内部信息的可访问性，但具体使用哪些表征、如何构造蒸馏目标、如何减少参数及其作用阶段，均尚未验证；不能据此确定损失形式、训练流程或推理开销。 作者报告，KDFP 在 9 个基准上相较既有方法提升 1.6%–4.9%，并通过 ephemeral parameter reduction 将训练效率最多提升 99.1%。摘要未给出基准名称、评估指标、教师与学生规模、对照方法和训练预算，因此上述百分比不能解释为准确率百分点，也不能确定训练效率对应时间、算力或其他资源指标。实验协议、消融及统计信息尚未验证；边缘部署与隐私是研究动机，不能视为已验证的部署收益或隐私保证。 平台推测（待验证）：通用知识蒸馏可能为 EEG/BCI 大模型向轻量学生模型压缩提供参考，但目前摘要不足以建立具体机制对应。需先核对其对教师内部表征、数据规模与模型结构的依赖，再评估与 EEG 低信噪比、跨被试差异和小数据条件的兼容性；不能将 LLM 上的结果直接外推为 EEG/BCI 效果，相关 EEG 工作尚未检索确认。

    阅读价值：值得核对 KDFP 如何通过 ephemeral parameter reduction 兼顾通用知识蒸馏效果与训练效率，但摘要未披露具体机制及评估协议，其对 EEG/BCI 模型压缩的适用性尚未验证。

  14. arXiv · 泛化与分布偏移78

    LLM 的摊销式离策略评估

    基于摘要分析。研究针对 LLM 候选模型的离线部署评估：既有模型产生的日志与候选模型响应之间存在策略偏移，业务要求变化又会带来奖励偏移。作者提出 PFN-OPE，以 prior-data fitted network 在上下文老虎机任务分布上预训练，将离策略评估（OPE）的拟合成本摊销到多个任务。 核心机制是利用 LLM 响应池及多个奖励函数构造同时包含两类偏移的预训练任务。测试时，模型接收日志数据集以及每个提示的一条采样目标响应，通过单次前向推理输出价值估计，无需逐任务重新拟合。其方法重点不是重新定义奖励，而是学习跨任务复用的评估映射；预训练任务分布对部署条件的覆盖程度，是理解泛化能力时需要核对的关键。 作者报告：在 HelpSteer2 和 UltraFeedback 上，使用 Qwen、Llama 与 Gemma 策略，在奖励发生偏移的设置中，PFN-OPE 在所有已测试配置下相对最佳基线取得了原文表述为“2.0 至 9.3 倍更低”的误差。摘要未明确误差指标、具体模型版本、训练与测试划分，以及策略偏移和奖励偏移的构造方式，因此不能将该倍数换算为 Accuracy 提升或直接外推到未测试配置。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 BCI 系统记录了上下文、决策动作及反馈奖励，这种摊销式 OPE 机制可能用于评估解码策略更新或反馈目标变化，而非直接作为 EEG 特征提取方法。可复用部分是跨任务评估器，需改造任务生成、动作表示和奖励定义；EEG 低信噪比、跨被试变化、小规模日志及行为策略覆盖不足均可能使估计失效。一个可证伪的小实验是在具有已知策略价值的模拟上下文老虎机任务中引入被试差异和奖励变化，比较预训练评估器与逐任务 OPE 基线的价值估计误差。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 PFN-OPE 将持续部署中的策略偏移与奖励偏移共同纳入摊销式离策略评估，并以单次前向推理替代逐任务拟合；其误差优势仍需结合全文中的划分、误差定义及基线协议核对。

  15. arXiv · 在线与高效推理84

    Oracle 高效且无需预知参数的不可知平滑在线学习

    基于摘要分析。本文研究平滑在线学习中，如何在标签不必由固定假设完美预测、且未知数据基准分布的条件下，实现统计与计算上可行的在线学习。作者提出基于 Gaussian Follow-The-Perturbed-Leader 的算法，并报告其无需预知基准测度 μ、平滑参数 σ 或时间范围 T，即可获得次线性遗憾。 框架假设每轮协变量的条件分布相对于固定基准测度 μ 的密度不超过 1/σ，从而允许一定程度的数据依赖与对抗性，但并非完全不受约束的对抗环境。摘要指出，既有 oracle 高效算法需要从 μ 采样，或要求标签可由固定假设完美预测；本文旨在同时解除这两项要求。这里的“无需预知参数”指无需知道 μ、σ、T，不意味着模型没有参数，也不意味着无需平滑性假设。 作者报告：对于 VC 维为 d 的二元假设类，算法每轮调用一次经验风险最小化（ERM）oracle，遗憾上界为 Õ(d√(T/σ))，与最优界相差至多 √d 因子。该结果是理论遗憾保证，不是 Accuracy 或实际运行速度结果；oracle 调用次数也不能替代具体 ERM 求解的计算成本。扰动构造、oracle 接口、证明条件及实验协议、消融与统计信息尚未验证。 平台推测（待验证）：其机制可能为 EEG 在线二分类中应对分布漂移提供理论参考，但前提是特征分布满足相应平滑性条件，且所选假设类具有可用的 ERM 求解器。可复用的是扰动式在线决策与逐轮更新思路；需改造 EEG 特征、标签反馈与求解接口。低信噪比、被试或通道变化及小样本可能使平滑性或计算可行性难以成立。一个可检验的小实验是在固定被试、固定通道的带标签 EEG 数据流上，按时间顺序先预测后更新，与使用相同特征和假设类的在线基线比较累积错误及 ERM 耗时；这不能单独验证理论平滑性假设。相关 EEG 工作尚未检索确认。

    阅读价值：值得核对其 Gaussian Follow-The-Perturbed-Leader 如何在未知基准测度与平滑参数时，仅用每轮一次 ERM oracle 调用获得不可知情形下的次线性遗憾；这一保证依赖平滑性假设，尚不能直接视为 EEG 在线适应效果。

10月6日周二
  1. arXiv · EEG 与神经表征80

    CogAdapt：认知信息引导的代码 LLM 稀疏适应

    基于摘要分析。研究针对代码 LLM 微调成本较高的问题，提出 CogAdapt：利用人类阅读代码时的 EEG 与注意数据，学习程序级和 token 级认知先验，并据此选择性更新模型，以兼顾代码生成性能与适应参数规模。 核心机制是将可迁移的认知先验与冻结模型对各编码任务的响应相结合，决定适应规模及需要更新的 transformer blocks；微调期间仅更新选定模块，推理时不需要新增人类记录。与摘要所述通常更新较大部分模型的人类认知对齐方法相比，其重点不是仅用认知信号指导学习内容，而是进一步指导更新位置和规模。先验的具体学习目标、EEG 预处理、注意数据获取方式及模块选择规则尚未验证。 作者报告，在 Qwen 和 GLM 上，人类阅读行为与 Mixture-of-Experts（MoE）计算表现出一致对应关系。作者报告，CogAdapt 在 LiveCodeBench 和 BigCodeBench 的所比较设置中取得最佳 pass@1；其中在 LiveCodeBench 上，相较匹配的常规微调，提升分别为 10.86 和 6.29 个百分点，同时可参与梯度更新的适应参数减少 86.21–87.21%。摘要未明确各数值对应的模型配置，也未提供绝对 pass@1、数据划分或统计不确定性；参数减少不能直接等同于训练时间、显存或总计算成本同比下降。 该工作将 EEG 作为代码模型适应的认知指导信息，而非直接研究 BCI 解码。关键核对事项包括认知先验跨程序、任务及被试的可迁移性，认知信号相对纯模型响应选择策略的增益，以及匹配微调的参数预算和训练预算。被试数量、记录协议、训练与评估划分、消融、统计信息及代码可用性尚未验证，不能据此推断其适用于其他 EEG 任务。

    阅读价值：值得核对其如何将 EEG 与人类注意数据转化为代码模型的稀疏适应先验，以及性能提升和可参与梯度更新的参数减少能否在匹配微调协议下复现；这并非 EEG 解码性能的验证。

10月4日周日
  1. arXiv · 时序与音频基础模型76

    LogSig-SSM：面向状态空间模型的多尺度 log-signature 压缩时序建模

    基于摘要分析。LogSig-SSM 针对高频、不规则采样且具有长程依赖的多变量时序，先以多尺度窗口化 log-signature 将长序列压缩为较短的 token 序列，再用选择性状态空间模型（SSM）建模长程依赖，旨在兼顾连续时间方法的输入表征能力与 SSM 的计算效率。 核心机制是由 log-signature token 表征高阶跨通道交互，再交由选择性 SSM 骨干处理。作者将其定位为对 NCDE、NRDE 长序列扩展成本，以及 Mamba 单个模块内隐维度间递归混合受限问题的回应。摘要还给出连续时间解释：模型可视为由 log-signature 输入驱动的 NCDE/NRDE 风格系统，选择性机制对应潜在动力学的输入依赖重缩放。窗口尺度、log-signature 截断阶数、损失、训练配置及具体骨干实现尚未验证。 作者报告，在 UEA 长序列分类、PPG-DaLiA 高频生理信号回归、多变量天气预测及 PhysioNet Sepsis 不规则采样临床预测四类基准上，LogSig-SSM 优于或匹配较强的 SSM 与连续时间基线；在最长序列上，相比 Mamba，训练速度最高提升至 30 倍，GPU 显存用量最高减少 37 倍。摘要未明确这些效率极值分别对应哪个基准、硬件与配置，也未提供各任务指标、数据划分或不确定性；实验协议、消融及统计信息尚未验证，不能据此认定所有任务均有同等收益。 平台推测（待验证）：迁移假设是，EEG 长序列中的跨通道交互可由窗口化 log-signature 保留，并在压缩后供 SSM 利用。可复用压缩与序列建模思路，但需适配 EEG 通道排列、时间编码及窗口尺度；低信噪比可能使高阶交互放大噪声，通道变化和跨被试差异可能削弱表征稳定性，小数据也可能限制学习。一个可证伪的小实验是在固定 Cross-subject 划分、预处理与训练预算下，对比原始 EEG 输入的 Mamba 与 LogSig-SSM，同时记录分类指标、训练耗时和峰值显存，并改变窗口尺度检验是否牺牲任务信息。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对多尺度 log-signature 压缩能否在保留跨通道交互的同时降低长序列建模成本；摘要中的效率优势有明确比较对象，但具体协议及向 EEG 的迁移效果尚未验证。

10月3日周六
  1. arXiv · 架构与算子75

    FTD-GNO：通过核的函数张量分解实现内存高效的图神经算子

    基于摘要分析。该研究针对 Graph Neural Operators（GNOs）在学习偏微分方程（PDEs）解算子时，高分辨率或大邻域下核计算与聚合开销较大的问题，提出 Functional Tensor Decomposition Graph Neural Operator（FTD-GNO），将高维连续积分核分解为低维、按模组织的函数，以降低内存需求。 核心机制是以 CP、Tensor-Train 和 Tucker 等经典张量分解形式参数化积分核，通过代数重构实现积分算子计算，避免显式构造完整的逐边核张量。与用整体神经网络参数化核的 GNO 相比，该方法改变了核的表示和计算方式，同时保留连续算子学习结构。作者报告，理论复杂度分析表明该机制可降低高维核构造涉及的参数与激活内存成本；实际收益仍需结合分解秩、维度与图邻域规模核对。 作者报告，在摘要所述实验中，相比对应的未分解图积分基线，FTD-GNO 的峰值内存更低，记录的训练时间更短；Fourier-graph 实验还显示，FTD 可提升混合算子中图积分层的效率并具有可扩展性。摘要未提供数据集、划分、硬件、具体数值或预测精度对照，不能据此判断效率收益是否伴随精度变化。实验协议、消融及统计信息尚未验证；复现还需核对分解秩选择、核重构实现、内存测量口径和代码可用性。 平台推测（待验证）：若 EEG 任务采用基于电极位置或时空坐标的连续图积分算子，因子化核可能缓解大邻域交互的内存瓶颈。可复用部分是核分解与聚合计算，需改造输入坐标、通道布局和任务监督；其原始验证问题是 PDE 解算子学习，数据结构与 EEG 不同。低信噪比、跨被试变化、通道缺失和小数据可能削弱低秩表示的有效性。一个可证伪的小实验是在固定 EEG 数据划分和图结构下，对比未分解核与不同分解秩的核，同时记录任务指标、峰值内存及训练时间，检验是否存在稳定的精度—内存折中。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其函数张量分解如何避免显式构造逐边核张量，以及内存和训练时间收益在何种分解秩、图规模与预测精度条件下成立；其 EEG/BCI 迁移价值尚未验证。

  2. arXiv · EEG 与神经表征76

    COVER：学习在选择性睡眠分期中接受更多预测

    基于摘要分析。该研究针对 EEG 睡眠分期级联中的第一阶段：在给定接受风险目标下，让固定主分类器尽可能多地接受自身预测，将其余片段交给更强模型。作者提出 COVER（COVerage-oriented Error Ranking），通过辅助信息驱动的主分类器错误学习与固定尺度评分器细化，提高可接受预测的覆盖率，而不改变主分类器的预测标签。 核心机制包含两步：首先，用学习得到的错误评分替代最大 softmax 概率（MSP），以识别主分类器更可靠的预测；随后，在经验接受风险约束下直接优化覆盖率，而非仅优化所有 EEG 片段上的错误预测准确性。摘要未说明辅助信息的具体来源、评分器结构、损失形式及固定尺度细化的实现，这些细节尚未验证。 作者在 Sleep-EDF-20 上以 5% 接受风险为目标进行评估，被试从所有拟合与选择流程中留出。作者报告，在相近的被试等权风险下，辅助信息驱动的错误学习将平均被试覆盖率从 MSP 的 31.5% 提升至 48.8%。在每名被试接受片段数相同、合计接受 20,639 个片段的比较中，MSP 与学习评分器的错误数分别为 1,467 和 867。作者还报告，固定尺度细化在嵌套开发评估中相对初始化增加了 1.7 个百分点的覆盖率；最终 COVER 在八种评分器中取得最高平均覆盖率，为 50.4%，对应被试等权风险为 4.5%，比较方法 SELE 与 DuoF 的覆盖率分别为 49.3% 和 43.6%。摘要未给出后二者各自的风险值，不能据此认定它们处于完全相同的风险水平。 阅读与复现时应重点核对辅助信息如何参与训练、风险阈值与评分器的选择流程、嵌套开发协议、被试间风险差异及统计不确定性。该工作评估的是级联入口的选择机制，覆盖率收益不等同于完整级联的计算节省或最终睡眠分期性能提升；完整级联表现、实验协议细节、消融及统计信息尚未验证。

    阅读价值：值得阅读的是其在不改变主分类器预测标签的前提下，将错误排序与接受风险约束下的覆盖率优化结合；作者报告了留出被试上的覆盖率收益，但完整级联的计算节省尚未验证。

10月2日周五
  1. arXiv · 表征与预训练76

    少测量，多获知：自监督测试时特征采集

    基于摘要分析。本文研究多模态、高维系统在测试时如何避免昂贵且冗余的全量测量，并在下游任务或预测目标未知的情况下，顺序选择有信息量的模态。作者提出任务无关的自监督模态采集原则 ECHO-k，以深度模型的内部预训练表征作为代理目标，用于概括跨模态信息并指导采集。 核心机制是以表征目标替代特定下游任务的监督信号。作者在简化的线性设定下提供理论保证，并据此构建用于顺序模态选择的强化学习（RL）策略。摘要未说明代理目标的具体构造、优化损失、策略状态与奖励，以及采集成本如何计入预算，相关实现细节尚未验证。 作者报告，在与任务无关、无标签的采集基线比较时，ECHO-k 在多种基础模型后端上持续改善预算约束下的下游性能。摘要未提供数据集、预算定义、评估划分、指标或改善幅度，不能据此量化收益或比较不同协议；实验协议、消融及统计信息尚未验证。线性设定下的理论保证也不能直接视为复杂非线性多模态场景的保证。 平台推测（待验证）：该机制可能用于 EEG 与其他模态联合测量时的成本控制，或经改造后用于 EEG 通道组选择。迁移假设依赖预训练表征能够保留下游所需信息，以及模型能够处理部分观测；可复用代理表征目标和顺序采集策略，但需改造观测接口、采集动作与成本定义。EEG 的低信噪比、跨被试差异、通道相关性及小数据可能导致策略追逐不稳定表征，或忽略任务关键但表征不敏感的信息。一个可检验的小实验是固定预训练编码器，在相同采集预算与跨被试划分下，比较代理表征驱动的通道组选择与随机、固定通道组选择，并仅在最终评估阶段使用下游标签；该实验属于迁移验证建议，并非原文结果。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其以预训练内部表征作为代理目标、在下游任务未知时学习预算约束下模态采集策略的机制，但其在 EEG/BCI 中的有效性尚未验证。