跳到正文
只看一手#LLM
10月9日周五
  1. arXiv · 泛化与分布偏移77

    SparseDecoding：面向准确高效 LLM 推理的解码感知剪枝

    基于摘要分析。该研究针对 LLM 解码阶段受内存带宽限制，以及固定自然文本剪枝校准与模型自生成序列之间的分布偏移，提出 SparseDecoding：用稠密模型自回归生成时的逐层激活校准剪枝，并结合面向解码的稀疏计算内核，提高剪枝后的生成质量与推理效率。 机制上，作者指出，常见基于 Hessian 的逐层免训练剪枝使用预先收集的自然文本计算校准信息，而实际解码输入包含模型自生成 token；两类序列对应的 Hessian 与激活分布存在差异，可能损害剪枝模型的生成表现。SparseDecoding 从稠密模型自回归生成过程收集逐层激活并构建校准矩阵，明确排除 prefill 阶段，使剪枝目标更贴近解码阶段的激活。具体剪枝目标、Hessian 计算方式、稀疏率与校准样本规模尚未验证。 系统上，该方法针对解码中占主导的稀疏矩阵–向量乘法（SpMV），而非主要优化稀疏矩阵–矩阵乘法（SpMM），设计采用位掩码索引与固定步长遍历的 N:M 稀疏内核。其实际收益需要结合稀疏模式、生成长度、批大小及内核调用开销核对，不能仅由非零参数减少推断。 作者报告，在 Llama-3.1-8B、Llama-3.3-70B、Qwen3-14B / 32B 的长文本生成基准上，该方法持续优于标准固定文本校准，并在 A100 GPU 上获得最高 1.48 倍的端到端实际墙钟解码加速。摘要未给出基准名称、生成质量指标、加速峰值对应模型与配置，以及计时对照的具体设置；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可借鉴之处是让压缩校准数据匹配部署时的输入与激活分布，但这依赖自回归生成这一数据结构，不等同于已验证的 EEG/BCI 域适应方案。摘要未提供直接的 EEG 迁移机制或验证，已有 EEG 相关工作尚未检索确认。复现需取得校准生成流程、剪枝配置、内核实现及硬件计时协议；代码是否公开尚未验证。

    阅读价值：值得核对其生成阶段校准能否缓解剪枝时的激活分布偏移，以及 N:M 稀疏矩阵–向量内核在何种配置下带来实际解码加速；摘要提供了明确机制，但效果边界尚未验证。

10月8日周四
  1. arXiv · 泛化与分布偏移75

    从表层到深层：面向多模态情绪理解的认知评价推理

    基于摘要分析。该研究针对多模态情绪理解依赖可观察情感线索、容易形成线索—标签捷径的问题，提出从感知到认知评价的推理范式，并配套构建 CogEmo-40K、CogEmo-MoE 与 CogEmo-Bench，以关注情绪为何产生，而不只是预测情绪类别。 核心机制源于情绪评价理论：通过个体对事件的解释和评价补充表面情感线索。CogEmo-40K 是通过感知到评价流程构建的指令微调数据集，用于引导围绕六个认知评价维度、以证据为基础的推理；摘要未列出这些维度及数据来源。CogEmo-MoE 是紧凑的稀疏 MLLM，通过交错的 MoE 模块进行评价专门化适配，作者称其规模显著小于典型情绪 MLLM，但具体参数量、路由机制、训练目标与对照模型尚未验证。 评估方面，CogEmo-Bench 引入 Appraisal Evidence Quality Score（AEQS），旨在衡量六个互补评价维度上的认知—情感理解，补充仅评估情绪预测结果的常规指标。作者报告其方法在 CogEmo-Bench 上领先，并表现出较强跨域泛化；摘要未提供分数、域划分、基线或统计信息，因此无法判断优势幅度，也不能据此认定模型已消除 Clever Hans effect。数据构建与证据标注方式、AEQS 的计算及可靠性、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：这一机制可能启发 EEG 情绪理解中的证据约束，但依赖多模态事件语境和认知评价监督，不能直接视为 EEG/BCI 方法。可考虑复用评价框架，改造 EEG 编码与证据对齐模块；低信噪比、跨被试差异及小样本评价标注可能使模型仍依赖语境捷径。一个可检验的小实验是在具有事件语境和评价标注的数据上，按同一跨被试划分比较直接情绪预测与评价辅助训练，并检验移除语境后的变化。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是其将情绪标签预测与认知评价证据质量区分，并配套提出数据、模型及评估框架；作者报告的跨域泛化与抗表面线索捷径价值仍需结合全文协议核验。

  2. arXiv · 在线与高效推理74

    适应位置的重要性：面向能力保留的层选择性微调

    基于摘要分析。研究关注 LLM 的参数高效微调（PEFT）在适应专门任务时可能损害预训练通用能力的问题，提出 Layer-Selective LoRA（LS-LoRA）：以各 Transformer 层的输入—输出余弦相似度筛选适应位置，仅在低相似度层部署可训练 LoRA 适配器。 核心机制是将“在哪里适应”作为优化对象，而不是主要依赖数据回放或显式正则化约束。作者用逐层经验 Fisher 信息衡量目标任务敏感性，但其计算需要反向传播；因此提出仅需前向计算的输入—输出余弦相似度作为层敏感性排序的轻量代理。作者报告，在所评估的模型与任务中，较低的输入—输出相似度对应较高的经验 Fisher 分数。该观察支持选择低相似度层进行适应，但摘要未提供相似度聚合方式、层选择阈值及额外计算开销。 作者报告，在数学推理和代码生成实验中，相较标准全层 LoRA，LS-LoRA 提升了平均目标任务表现，并保留了更多常识推理能力。摘要未给出具体模型、数据集、指标数值、训练与评估划分，也未说明适配器参数预算是否匹配；实验协议、消融及统计信息尚未验证。需核对收益究竟来自层位置选择、可训练参数减少，还是两者共同作用，以及常识推理评估能代表多大范围的通用能力。 平台推测（待验证）：若 EEG Transformer 的层输入—输出相似度也能反映下游任务敏感性，这种选择性适应可能用于检验跨被试或跨数据集微调时的能力保留。可复用模块是逐层前向相似度计算与 LoRA 层选择；需改造相似度在 EEG 时间片段和通道维度上的聚合方式，并依赖已有预训练编码器与下游监督数据。低信噪比、通道差异及小样本可能使层排序不稳定，LLM 中的代理关系不能直接视为 EEG 结论。一个可证伪的小实验是固定 EEG 编码器、跨被试划分与训练预算，对比低相似度层、高相似度层、随机层及全层 LoRA，同时核对相似度与经验 Fisher 排序的一致性，并评估目标任务及原任务保留情况。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对输入—输出余弦相似度能否稳定替代逐层经验 Fisher 信息，以及选择性部署 LoRA 是否在可比训练条件下改善目标任务适应与通用能力保留的权衡。

  3. arXiv · 学习目标与优化74

    从单一提示到功能集合：演化功能集合 EFRE 支持 LLM 持续学习

    基于摘要分析。本文研究 LLM 如何在连续获取新技能和知识时保留已有能力，提出 Evolving Functional REpertoires（EFRE）：以随任务演化的功能集合替代单一提示，通过细化已有功能或产生新功能处理连续任务中的更新冲突。 核心机制：作者将提示优化作为避免昂贵参数更新的适应途径，但作者报告，在顺序任务适应中，单一提示优化仍会出现灾难性遗忘，累积的规则也会过拟合局部任务分布。EFRE 对兼容更新细化已有功能，对冲突更新产生新功能。摘要未说明功能的具体表示、兼容性判定、推理时的选择方式及优化流程，这些机制尚未验证。 结果：作者报告，在一个三任务持续学习序列上，EFRE 的最终平均表现比 GRPO 高 7.50 个百分点；在适应 Bio 任务后，其 FinQA 表现下降 1.56 个百分点，而基础提示优化方法下降 25.10 个百分点。摘要未给出具体指标、完整任务顺序、数据划分及预算，不能将这些差值解释为 Accuracy，也不能据此推断跨协议优势。作者还报告，将 EFRE 实例化为最小智能体系统后，在不同骨干模型上观察到一致改进，但模型名称与逐项结果尚未验证。 复现重点是核对冲突判定与功能增长策略、任务间能力保持的评估方式，以及提示优化、EFRE 和 GRPO 的资源与监督条件。实验协议、消融及统计信息尚未验证。本文证据限于 LLM 持续学习，不构成 EEG/BCI 解码效果的证据；功能集合如何对应 EEG 任务、通道或被试差异尚不明确，暂不据此提出具体迁移方案。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 EFRE 如何判定更新兼容性并组织功能集合，以及其相对单一提示优化和 GRPO 的持续学习收益能否在一致评估与资源预算下复现。

  4. arXiv · 泛化与分布偏移73

    RL-ARC：通过推理引导的不确定性校准大型推理模型

    基于摘要分析。研究关注可验证奖励强化学习（RLVR）提升语言模型推理能力时可能伴随的校准退化与过度自信，提出联合利用推理置信度和答案置信度的校准感知训练框架 RL-ARC。 核心机制是将推理置信度作为校准答案置信度的辅助信号：对正确回答施加推理引导的正则化，对错误回答施加过度自信惩罚。摘要未说明两类置信度如何计算、正则项与惩罚项的具体形式，以及它们如何与原有训练目标组合，这些实现细节尚未验证。 作者报告，在分布内（ID）与分布外（OOD）设置下，RL-ARC 改善了校准，使模型能够根据问题自适应估计置信度，同时未显著牺牲推理性能。摘要将已有校准感知训练方法描述为在分布偏移下仍可能过度自信，并存在推理性能损失；但未提供基线名称、任务、数据集、模型规模、校准指标或具体数值，因此无法判断收益大小及适用边界。实验协议、消融及统计信息尚未验证。 复现时需核对推理置信度是否提供独立于答案置信度的信息、正确与错误样本的判定方式、OOD 构造及性能与校准的联合评估。该方法直接面向语言推理模型，不能据此认定对 EEG/BCI 有效；摘要不足以确定其置信度机制如何对应 EEG 解码，迁移价值待评估，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 RL-ARC 如何利用推理置信度约束答案置信度，以及其在分布外条件下改善校准与保持推理性能的权衡；具体收益和实验协议尚未验证。

  5. arXiv · 在线与高效推理70

    通过协同过滤路径实现多模态图检索增强的序列推荐

    基于摘要分析。该研究针对多模态序列推荐中仅依赖目标用户历史、忽略邻近用户协同信号，以及反复调用 Multimodal Large Language Models（MLLMs）处理长历史所带来的计算开销，提出 MGRASRec。其核心贡献是按候选物品检索用户—物品交互图中的结构化路径，将协同过滤信息与相关历史整合到提示中，再对 MLLM 进行参数高效微调。 机制上，MGRASRec 通过多模态相似性扩展交互图，扩大超出精确共同交互重叠的检索覆盖范围；候选物品条件化的路径检索同时找出与候选最相关的历史物品。作者称，这一过程无需额外成本即可筛选历史，免去反复摘要，并使每个候选物品的 MLLM 推理保持为一次前向传播。该描述不等于完整推荐流程仅需一次前向传播，图检索开销、候选数量及端到端延迟尚未验证。 作者报告，在三个公开数据集上的评估中，MGRASRec 在所有所评指标上取得最佳表现，排名质量提升尤其明显。摘要未提供数据集名称、指标数值、数据划分或对照基线，因此无法核对提升幅度及比较条件。图构建与路径选择规则、多模态相似性计算、提示格式、微调配置、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移价值主要在于“围绕待判断对象检索关系证据并压缩上下文”，而非已证实的 EEG/BCI 效果。假设 EEG 任务具备可信的试次—被试—任务关系及可比较的多模态表征，可尝试复用图路径检索与上下文筛选；交互图语义、候选定义和监督目标则需重构。低信噪比、跨被试差异、通道不一致及小数据可能导致相似性失真和无关证据引入。一个可检验的小实验是在固定跨被试划分下，对比无检索、相似性检索与关系路径检索，并限定图构建仅使用训练集，核对预测效果与总推理成本。相关 EEG 工作尚未检索确认。

    阅读价值：值得关注候选物品条件化的图路径检索如何同时补充协同信号并筛选相关历史，但排名收益与单候选推理成本仍需结合全文实验协议核验。

  6. arXiv · 学习目标与优化75

    动力学即编码：通过动态系统进行模型压缩

    基于摘要分析。本文研究预训练神经网络在内存与计算约束下的模型压缩，将已有动态系统（DS）权重编码范式扩展为统一框架，并给出 irrational winding 的有限轨迹覆盖界。其核心是以动态系统轨迹中的状态索引表示高维权重向量，解压时由对应状态恢复权重，而非直接采用剪枝、量化、知识蒸馏或低秩分解。 理论方面，作者证明：在满足 Diophantine 条件时，irrational winding 中包含 M = O(ε^{-(d+ν)}) 个状态的有限轨迹可构成 d 维权重空间的 ε-net，从而联系状态分辨率、解压误差与压缩率。该界依赖明确条件，不能直接等同于任意模型权重的实用压缩保证；ν 的具体定义、适用权重域及常数尚需正文核对。 方法方面，框架统一了空间填充曲线（Hilbert、Peano、Morton/Z-order、Snake）、混沌系统（Lorenz）、同余与伪随机生成器（LCG、PCG）及低差异序列（Halton）。作者引入 KD-tree 与 coordinate-template 加速以扩展至大模型，并利用异常值识别控制误差。权重分组方式、状态索引存储成本、异常值处理细节及各系统的选择条件尚未验证。 作者报告，在 ResNet-18、Qwen2.5-1.5B 和 Qwen1.5-7B 实验中，该方法无需事后重训练即可取得有竞争力的压缩率，并具有可控解压误差和灵活的状态空间设计。摘要未提供具体压缩率、任务性能、数据集、对照基线或运行开销；实验协议、消融及统计信息尚未验证。复现时应同时核对编码搜索成本、解压延迟、额外元数据与任务性能，而不能仅依据权重重构误差判断部署价值。 平台推测（待验证）：若用于 EEG 模型部署，可复用轨迹索引编码与权重恢复模块，但需按模型权重尺度和分组方式调整状态空间，并评估低信噪比下任务输出对权重扰动的敏感性。小模型的索引和异常值存储开销可能抵消压缩收益。可在固定 Cross-subject 划分的已有 EEG 分类模型上，不重训练地比较压缩前后 Accuracy、存储量与推理延迟，检验该假设。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对的是动态系统轨迹索引如何在无需事后重训练的条件下实现权重压缩，以及其理论误差界能否转化为包含索引搜索、解压开销和任务性能的实际收益。

  7. arXiv · 在线与高效推理75

    通过奇异向量选择平衡 LLM 持续学习中的稳定性与可塑性

    基于摘要分析。研究针对 LLM 领域持续适应中的灾难性遗忘，提出参数高效持续学习方法 SVC，以奇异向量通道作为分配可塑性与保留稳定性的基本单元，选择性更新通道，以兼顾新领域能力与预训练能力。 核心机制：作者将每个奇异向量通道视为一种输入—输出变换，更新通道用于学习新知识，固定通道用于保留预训练能力。微调前，SVC 使用领域数据估计各通道的适应收益，并仅将固定的公开通用领域语料作为历史激活代理，用于估计遗忘成本；随后通过基于拐点的成本筛选、Pareto-front 过滤与 Otsu 阈值法，自适应选择可训练通道。相较于仅限制可训练参数数量的 PEFT 思路，其关注点是以何种结构单元、依据何种收益与成本信号决定更新位置。具体评分公式、参数化方式、损失与训练开销尚未验证。 结果与证据边界：在覆盖四个 LLM 家族、八项下游任务的实验中，作者报告 SVC 相较现有 PEFT 基线更好地保留预训练能力，同时获得较强的下游表现；作者还报告通道评分与选择分析支持该机制。摘要未提供模型名称、数据集、任务顺序、划分、指标数值或基线配置，实验协议、消融及统计信息尚未验证，因此不能据此量化优势或判断不同持续学习设置下的适用范围。 平台推测（待验证）：若 EEG 预训练模型的权重也能分解为具有可用适应信号的奇异向量通道，该机制可能用于缓解跨被试或跨会话持续适应中的遗忘。可借鉴通道评分与筛选流程，但需改造领域收益评估及历史激活代理，不能直接用文本通用语料替代 EEG 历史数据。低信噪比、小样本和通道配置变化可能使评分不稳定，或使保留的通道不能代表原有能力。一个可检验的小实验是在固定 EEG 模型与顺序跨会话协议下，匹配可训练参数量，对比 SVC 式选择、随机通道选择与 PEFT 基线，同时测量新会话表现和旧会话性能变化。该迁移假设尚无本材料中的 EEG 证据支持，已有相关工作尚未检索确认。

    阅读价值：值得核对 SVC 如何将领域适应收益与遗忘成本落实到奇异向量通道选择，以及固定通用语料作为历史激活代理的有效性；摘要中的优势尚需结合完整实验协议验证。

  8. arXiv · 学习目标与优化72

    KDFP：大语言模型知识蒸馏的第一性原理方法

    基于摘要分析。该研究关注大语言模型的通用知识蒸馏，而非主要蒸馏指令遵循、chain-of-thought 推理或工具使用等后训练能力。作者结合既有研究经验与新探索，提出白盒知识蒸馏方法 KDFP，目标是提升小型学生模型的能力，为高效、适合边缘设备部署的系统提供方法基础。 技术上，摘要将 KDFP 描述为面向现代 LLM 的通用知识蒸馏方法，并指出其通过 ephemeral parameter reduction 提高训练效率。白盒设定意味着方法依赖教师模型内部信息的可访问性，但具体使用哪些表征、如何构造蒸馏目标、如何减少参数及其作用阶段，均尚未验证；不能据此确定损失形式、训练流程或推理开销。 作者报告，KDFP 在 9 个基准上相较既有方法提升 1.6%–4.9%，并通过 ephemeral parameter reduction 将训练效率最多提升 99.1%。摘要未给出基准名称、评估指标、教师与学生规模、对照方法和训练预算，因此上述百分比不能解释为准确率百分点，也不能确定训练效率对应时间、算力或其他资源指标。实验协议、消融及统计信息尚未验证；边缘部署与隐私是研究动机，不能视为已验证的部署收益或隐私保证。 平台推测（待验证）：通用知识蒸馏可能为 EEG/BCI 大模型向轻量学生模型压缩提供参考，但目前摘要不足以建立具体机制对应。需先核对其对教师内部表征、数据规模与模型结构的依赖，再评估与 EEG 低信噪比、跨被试差异和小数据条件的兼容性；不能将 LLM 上的结果直接外推为 EEG/BCI 效果，相关 EEG 工作尚未检索确认。

    阅读价值：值得核对 KDFP 如何通过 ephemeral parameter reduction 兼顾通用知识蒸馏效果与训练效率，但摘要未披露具体机制及评估协议，其对 EEG/BCI 模型压缩的适用性尚未验证。

  9. arXiv · 泛化与分布偏移78

    LLM 的摊销式离策略评估

    基于摘要分析。研究针对 LLM 候选模型的离线部署评估：既有模型产生的日志与候选模型响应之间存在策略偏移，业务要求变化又会带来奖励偏移。作者提出 PFN-OPE，以 prior-data fitted network 在上下文老虎机任务分布上预训练，将离策略评估（OPE）的拟合成本摊销到多个任务。 核心机制是利用 LLM 响应池及多个奖励函数构造同时包含两类偏移的预训练任务。测试时，模型接收日志数据集以及每个提示的一条采样目标响应，通过单次前向推理输出价值估计，无需逐任务重新拟合。其方法重点不是重新定义奖励，而是学习跨任务复用的评估映射；预训练任务分布对部署条件的覆盖程度，是理解泛化能力时需要核对的关键。 作者报告：在 HelpSteer2 和 UltraFeedback 上，使用 Qwen、Llama 与 Gemma 策略，在奖励发生偏移的设置中，PFN-OPE 在所有已测试配置下相对最佳基线取得了原文表述为“2.0 至 9.3 倍更低”的误差。摘要未明确误差指标、具体模型版本、训练与测试划分，以及策略偏移和奖励偏移的构造方式，因此不能将该倍数换算为 Accuracy 提升或直接外推到未测试配置。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 BCI 系统记录了上下文、决策动作及反馈奖励，这种摊销式 OPE 机制可能用于评估解码策略更新或反馈目标变化，而非直接作为 EEG 特征提取方法。可复用部分是跨任务评估器，需改造任务生成、动作表示和奖励定义；EEG 低信噪比、跨被试变化、小规模日志及行为策略覆盖不足均可能使估计失效。一个可证伪的小实验是在具有已知策略价值的模拟上下文老虎机任务中引入被试差异和奖励变化，比较预训练评估器与逐任务 OPE 基线的价值估计误差。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是 PFN-OPE 将持续部署中的策略偏移与奖励偏移共同纳入摊销式离策略评估，并以单次前向推理替代逐任务拟合；其误差优势仍需结合全文中的划分、误差定义及基线协议核对。

10月7日周三
  1. arXiv · EEG 与神经表征72

    多模态 LLM 可以学习读取脑信号：用于统一多任务 EEG 解码的视觉—语言模型

    基于摘要分析。该研究针对 EEG 表征在认知任务、被试和记录条件之间难以泛化，以及神经信号如何接入通用基础模型的问题，提出 BraVista：将多通道 EEG 编码为结构化图像，通过指令条件视觉—语言模型（VLM）开展统一多任务解码。 核心机制是在通用领域 VLM 上进行持续后训练，利用其视觉与语言先验适配 EEG，而不另设大规模 EEG 专用预训练阶段。摘要明确指出 EEG-to-image 表示选择对性能至关重要，但尚未提供图像构造方式、通道与时间信息的编码规则、指令设计、训练目标、可训练参数范围或多任务采样策略，无法据此判断哪些模块贡献了主要收益。 作者报告在四个数据集上评估 BraVista，覆盖睡眠分期、情绪识别、认知工作负荷分类及异常 EEG 检测，并称各任务表现较强。摘要未给出数据集名称、被试数、数据划分、对照基线或具体指标，因此不能确认这些结果对应被试内、跨被试、跨会话还是跨数据集协议，也不能据此认定跨任务迁移或对未见记录条件的泛化已得到验证。 作者报告，在受控 EEG 扰动下，噪声增加伴随性能逐渐下降，并据此认为模型利用了 EEG 相关信息，而非仅依赖表面视觉模式。该观察为输入信号与预测的关联提供了支持，但仅凭摘要不足以排除所有视觉捷径；扰动类型、强度、图像变化及相关对照尚待核对。 复现时应优先核对结构化图像表示的对照实验、各任务的独立评估与联合训练设置、数据隔离方式、VLM 基座及后训练资源需求。实验协议、消融及统计信息尚未验证，代码与权重可用性亦未从所给材料确认。

    阅读价值：值得阅读的具体原因是 BraVista 将结构化 EEG 图像与指令条件 VLM 相结合，探索无需独立大规模 EEG 专用预训练的多任务解码路径；其表示选择与噪声扰动分析值得核对，但泛化范围和复现成本尚未验证。

10月6日周二
  1. arXiv · EEG 与神经表征80

    CogAdapt：认知信息引导的代码 LLM 稀疏适应

    基于摘要分析。研究针对代码 LLM 微调成本较高的问题，提出 CogAdapt：利用人类阅读代码时的 EEG 与注意数据，学习程序级和 token 级认知先验，并据此选择性更新模型，以兼顾代码生成性能与适应参数规模。 核心机制是将可迁移的认知先验与冻结模型对各编码任务的响应相结合，决定适应规模及需要更新的 transformer blocks；微调期间仅更新选定模块，推理时不需要新增人类记录。与摘要所述通常更新较大部分模型的人类认知对齐方法相比，其重点不是仅用认知信号指导学习内容，而是进一步指导更新位置和规模。先验的具体学习目标、EEG 预处理、注意数据获取方式及模块选择规则尚未验证。 作者报告，在 Qwen 和 GLM 上，人类阅读行为与 Mixture-of-Experts（MoE）计算表现出一致对应关系。作者报告，CogAdapt 在 LiveCodeBench 和 BigCodeBench 的所比较设置中取得最佳 pass@1；其中在 LiveCodeBench 上，相较匹配的常规微调，提升分别为 10.86 和 6.29 个百分点，同时可参与梯度更新的适应参数减少 86.21–87.21%。摘要未明确各数值对应的模型配置，也未提供绝对 pass@1、数据划分或统计不确定性；参数减少不能直接等同于训练时间、显存或总计算成本同比下降。 该工作将 EEG 作为代码模型适应的认知指导信息，而非直接研究 BCI 解码。关键核对事项包括认知先验跨程序、任务及被试的可迁移性，认知信号相对纯模型响应选择策略的增益，以及匹配微调的参数预算和训练预算。被试数量、记录协议、训练与评估划分、消融、统计信息及代码可用性尚未验证，不能据此推断其适用于其他 EEG 任务。

    阅读价值：值得核对其如何将 EEG 与人类注意数据转化为代码模型的稀疏适应先验，以及性能提升和可参与梯度更新的参数减少能否在匹配微调协议下复现；这并非 EEG 解码性能的验证。

10月5日周一
  1. arXiv · 时序与音频基础模型73

    FreSia：用于多变量时间序列分析的频率–语义实例化与对齐

    基于摘要分析。FreSia 针对 LLM 难以从离散数值 token 中感知多变量时间序列的季节性与趋势结构的问题，提出频率感知框架，将时间序列的频率空间与 LLM 的语义空间对齐，用于改善时序分析。 核心机制包括 Frequency-Guided Prompt（FGPrompt）与 Global-driven Context Learning（GCL）。FGPrompt 提炼时间序列的频域结构，并将其映射为适配 LLM 语义空间的提示；GCL 使用全局 CLS 驱动的探针生成全局上下文，以衔接时域与频域并融合多模态信息。相较摘要所述的直接数值 token 化或启发式文本描述，其方法重点在于显式利用频域结构，而非仅改变数值的输入表达。具体频域表示、提示构造、模态定义、训练目标及 LLM 更新方式尚未验证。 作者报告，在八个预测基准上，FreSia 的 MSE 和 MAE 平均改善幅度分别为 13.48% 和 8.06%。摘要未明确基准名称、数据划分、预测跨度、对照基线及平均方式，因此这些数字仅能作为该预测评估范围内的作者报告，不能跨协议比较。摘要虽提及异常检测的研究背景，但未提供对应结果；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，将多通道 EEG 的频谱结构转为语义提示，可能帮助模型利用节律信息；但原研究针对季节性、趋势与预测误差，不等同于 EEG 解码。可考虑复用频域提示和全局上下文思路，同时改造通道表达、时间窗及任务监督。低信噪比、非平稳性、跨被试频谱差异和小数据规模可能使提示更突出伪迹或个体特征。一个可检验的小实验是在固定 EEG 数据划分、骨干与训练预算下，对比数值输入和增加频域提示的输入，分别评估被试内与跨被试性能，并以打乱频域提示检验收益是否确实依赖频谱结构。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其频域结构到 LLM 语义提示的对齐机制及 FGPrompt、GCL 的独立贡献，但摘要中的预测收益不能直接视为 EEG/BCI 有效性证据。

10月3日周六
  1. arXiv · 架构与算子75

    ExpertMuon-Compass：用于混合专家训练的对齐引导步长

    基于摘要分析。该研究针对混合专家（MoE）语言模型中各专家接收的数据不同且随训练变化、共享学习率难以反映专家更新质量的问题，提出 ExpertMuon-Compass（Compass）：保留 Muon 的更新方向与动量缓冲，通过两个对齐因子调整每个专家的更新步长。 核心机制是将专家的 Muon 步乘以两个因子：family factor 比较该专家正交化更新与当前梯度的余弦相似度和同层其他专家的对应相似度；scalar radius 将更新与梯度对应行之间的对齐信息聚合为一个步长乘数。方法主要改变更新幅度，而非更新方向。作者还报告证明了两个因子的扰动界，但具体假设、界的形式及适用范围尚未验证。 作者报告，在 FineWeb-Edu 预训练中，对所有矩阵使用 Nesterov 动量的 Compass 表现不逊于或优于 Muon、NorMuon 及其他优化器；较长训练运行中的权重衰减与 NorMuon 匹配。将这些因子加入 NorMuon 后，作者报告损失相同或更低。摘要未提供模型规模、训练预算、具体损失数值与数据划分，不能据此量化收益。作者报告，当专家所见数据在训练过程中变化时效果最明显，例如多语言语料按语言分块到达的设置；同时专家负载保持均衡，路由器的 token 分配更为明确。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 模型采用 MoE，且不同专家因被试、会话或任务路由而接收非平稳数据，对齐引导步长可能对应专家间更新可靠性不一致的瓶颈。可复用步长缩放机制，但需适配专家矩阵及路由方式；该机制依赖可计算的专家梯度、正交化更新及同层专家比较，不能直接推广到没有专家结构的模型。低信噪比、小数据和稀疏路由可能使对齐估计不稳定，通道差异也可能改变专家分工。一个可检验的小实验是在固定 EEG MoE、Cross-subject 划分与训练预算下，对照 Muon 和 Compass，比较预先指定的任务指标、专家负载与对齐因子稳定性，并分别移除两个因子。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对其基于更新—梯度对齐调整专家步长的机制，以及与 Muon、NorMuon 在权重衰减匹配条件下的比较；摘要报告的收益尚需结合完整训练协议与消融验证。

  2. arXiv · 时序与音频基础模型75

    SEER：面向时间序列预测的自演进事件推理与检索

    基于摘要分析。该研究针对外生事件与结构变化驱动的时间序列预测，提出 SEER（Self-Evolving Event Reasoning and Retrieval）闭环框架，通过预测误差持续优化外部事件条件信息，试图弥补仅依赖历史数值观测及常规检索增强方法的不足。 核心机制是将预测误差转化为两种解耦反馈：一是反思式检索记忆，用于改进后续搜索查询并过滤无关噪声；二是持久化因果知识库，用于提炼可迁移的领域动态规律。摘要将高噪声、信号缺失及事件影响的因果推理能力不足列为常规检索增强方法的难点，但尚未给出 SEER 的具体知识表示、更新规则、训练目标或预测器接口。因果知识库的命名也不等同于已完成因果识别验证。 作者报告，在六个高波动时间序列基准上，SEER 持续优于所比较的先进时间序列基础模型及语言模型基线。摘要未提供基准名称、划分、预测跨度、指标、数值或基线配置，因此尚不能判断优势幅度及不同协议下的适用范围。作者称事件检索与反思均遵守严格时间边界，以防止前视偏差和数据泄漏；具体实施方式、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 预测任务具有带可靠时间戳的外部事件或上下文记录，可假设检索记忆与领域知识积累有助于应对状态变化；这不构成已验证的 EEG/BCI 效果。可复用的是反馈分离思路，需改造事件表示、检索源及反馈更新时机。低信噪比、被试差异、通道变化和小数据可能使误差反馈误归因并积累错误知识。一个可检验的小实验是在固定 EEG 预测任务与按时间划分的协议下，对比数值预测器、静态事件检索与闭环反馈，并分别关闭两类反馈，检查收益是否稳定。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对的是 SEER 如何将预测误差分别用于检索记忆更新与因果知识积累，以及检索和反思的时间边界如何落实；其性能优势目前仅有摘要中的作者报告。

  3. arXiv · 表征与预训练65

    零样本作者身份归属的作者表征策略：基于 LLM 与嵌入方法的比较研究

    基于摘要分析。该研究考察零样本 Authorship Attribution（AA）中如何表征作者的细粒度写作风格，比较仅标签提示与三种作者表征策略，并提出结合候选空间缩减和嵌入维度选择的两阶段 LISA 归属框架。 方法方面，仅标签基线、代表性写作样本和 LLM 生成的风格描述均通过 LLM 提示完成归属；基于 LISA 的方法则使用风格嵌入与余弦相似度。研究还考察提示设计的影响。摘要将零样本条件界定为没有任务特定监督，但作者表征所用样本的来源、数量及其与测试文本的关系尚未验证；两阶段框架的候选筛选规则、维度选择依据和具体流程也需查阅全文。 作者报告，在其评估条件下，仅标签的零样本 AA 效果不佳，引入作者特定表征可持续改善归属表现；两阶段 LISA 框架在所比较方法中取得最强的整体表现。作者报告，LLM 生成的风格描述能够提供更紧凑的作者表征，但会牺牲部分归属性能。摘要未提供数据集、具体 LLM、评价指标、数值结果或数据划分，实验协议、消融及统计信息尚未验证。作者据此认为，当前开源 LLM 若缺乏更有效的表征学习，仍不足以支持稳健归属；该结论的模型覆盖范围与跨语料适用性需进一步核对。 平台推测（待验证）：可迁移的机制假设是，先缩减候选空间、再选择有区分力的嵌入维度，可能帮助处理 EEG 表征中的冗余与个体差异；但原任务依赖作者参考文本及风格嵌入，并不等价于 EEG 的时序信号和任务标签。候选筛选与相似度判别可作为借鉴模块，编码器、参考表征及维度选择规则需要改造。低信噪比、跨被试或通道差异可能导致正确候选被提前排除，小数据也可能使维度选择不稳定。一个可检验的小实验是在固定 Cross-subject 划分下，对比全维度相似度判别与两阶段流程，核对筛选后的正确类别保留率及最终 Accuracy，并确保选择规则不使用测试标签。相关 EEG 工作尚未检索确认。