跳到正文

算法、任务与模态

Tokenization 最新动态

Tokenization 研究索引；按可核对的标签归档，不以热度评价质量。

206 条精选近 30 天 43 条共收录 236 条

更新

精选归档 · 第 11 页

1月1日周日第 201–206 条
  1. OpenReview · Representation learning77

    NAR-Former：面向综合属性预测的神经网络架构表示学习

    基于摘要分析。该研究以神经网络架构本身为建模对象，提出 NAR-Former，旨在无需实际执行目标网络的训练或推理，即可预测其 Accuracy、延迟等属性。这里的表示学习对象是网络结构，而非 EEG 或其他神经信号。 方法首先通过 tokenizer 将网络的操作信息与拓扑信息编码为单一序列，再使用多阶段融合 Transformer 生成紧凑的架构向量表示。训练阶段引入信息流一致性增强及对应的架构一致性损失；作者报告，相比既有随机增强策略，该方案以更少的增强样本获得更多收益，但摘要未提供损失公式、增强约束及定量对照。 作者报告，在 NAS-Bench-101、NAS-Bench-201、DARTS search space 和 NNLQP 上，该框架可预测 cell 架构及完整深度神经网络的 Accuracy 与延迟，并取得有潜力的表现。摘要未给出具体分数、数据划分、基线及延迟测量硬件，因此尚不能判断预测误差、跨搜索空间泛化或实际搜索收益。实验协议、消融及统计信息尚未验证。摘要提供了代码仓库，但实现与复现条件尚未核验。 平台推测（待验证）：其潜在 EEG 对应点是候选解码网络训练与部署评估成本，而不是直接提升信号表示。假设可复用架构序列化及属性预测机制，但需适配 EEG 网络算子、输入通道和时间长度，并收集指定被试划分与硬件下的真实 Accuracy、延迟作为监督。低信噪比、跨被试差异和小数据可能使同一架构的性能标签波动，限制单凭结构进行预测的可靠性。可在固定 EEG 任务、数据划分和硬件下，用少量已实测架构训练预测器，再对留出架构核验属性预测误差与性能排序；这不等同于已证实的 BCI 收益，相关 EEG 工作尚未检索确认。

    阅读价值：值得关注其将网络操作与拓扑统一编码、并以信息流一致性增强学习架构表示的机制；可用于审视架构属性预测方法，但对 EEG/BCI 模型的适用性尚未验证。

  2. OpenReview · Representation learning74

    CoBERT：通过代码表征学习进行自监督语音表征学习

    基于摘要分析。该研究面向语音表征学习，提出 Code BERT（CoBERT）：将语音转为离散代码序列，再从原始语音的掩码视图预测代码表征，以构建自监督学习目标。其主要研究对象是语音，而非 EEG 或 BCI。 核心机制建立在语音可由有限语音单位及其离散代码表示的假设上。与教师和学生使用同一模态的既有自蒸馏方法不同，CoBERT 的预测目标来自另一种表征模态，即离散代码的表征，而输入仍是经过掩码处理的语音。摘要未明确代码生成方法、代码表征模型的训练方式、损失函数或掩码策略，这些技术细节尚未验证。 作者报告，CoBERT 在自动语音识别（ASR）任务上超过其所比较的近期最佳性能，并在 SUPERB speech translation（ST）任务上获得显著改善。摘要未提供 ASR 数据集、数据划分、对照模型、具体指标或数值，无法据此量化增益或判断不同协议下的可比性。作者声明已发布代码和模型；实现完整性、训练资源需求、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，以离散潜在代码表征代替原始波形重建目标，可能帮助 EEG 自监督学习减少对局部噪声的拟合。可复用的是“掩码连续信号输入—预测离散代码表征”的训练框架；需改造的是 EEG 分段、通道组织、代码生成及代码表征学习模块。关键风险在于 EEG 未必具有与语音单位对应的稳定有限代码结构，低信噪比、跨被试差异、通道变化和小数据规模可能使代码主要编码噪声或被试身份。 可检验的小实验是：在固定 EEG 数据划分、编码器和训练预算下，对比离散代码表征预测与连续信号重建的自监督目标，再用相同标注量进行 Cross-subject 运动想象分类评估，检验该目标是否改善跨被试表征。此建议不代表已验证的 BCI 效果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其以离散代码表征作为语音掩码建模预测目标的跨模态自监督机制，但性能优势及向 EEG 表征学习迁移的可行性仍需核对全文与实验。

  3. OpenReview · Representation learning75

    DinoSR：用于自监督语音表征学习的自蒸馏与在线聚类

    DinoSR 研究自监督语音表征学习，将掩码语言建模、自蒸馏与在线聚类结合，以自动发现的离散语音单元指导表征学习。基于摘要分析，未取得论文全文。 机制上，教师网络先从输入音频中提取上下文嵌入，在线聚类系统再将嵌入组织为机器发现的音素单元集合，最终以离散化 token 指导学生网络。作者认为三种机制具有互补性；摘要未说明掩码位置、教师更新方式、聚类更新规则、具体损失或训练规模，不宜据此补全实现。 作者报告，DinoSR 在若干下游任务中超过此前最先进方法，并分析了模型及所学离散单元。摘要未列出具体任务、数据集、数据划分、基线和指标，因此尚不能判断收益大小及适用条件；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，以教师上下文表征的在线聚类产生离散监督，可能为缺少标注的 EEG 预训练提供学习目标。可复用的是教师—聚类—学生框架，需改造的是 EEG 输入编码、时间片段划分及通道处理。原方法依赖音频序列中可聚类的语音结构；EEG 不必具有类似音素的稳定离散结构，低信噪比、被试差异、通道布局变化和小数据规模可能使聚类优先捕获噪声或被试身份。一个可检验的小实验是在固定数据划分和下游评估协议下，对比加入与不加入在线聚类监督的 EEG 自监督模型，检验跨被试迁移是否改善，并检查离散单元与被试身份的关联。该假设不代表已证实的 BCI 效果，相关 EEG 工作尚未检索确认。

    阅读价值：值得关注其以教师上下文表征、在线聚类和离散单元监督连接自蒸馏与掩码建模的机制，但摘要未提供任务与指标，性能优势及 EEG 迁移价值尚待核对。

10月1日周六
  1. OpenReview · State space models77

    空间与时间上的稀疏性：利用可训练选择器实现音视频同步

    基于摘要分析。本文研究自然场景视频的音视频同步：可用于对齐的事件可能只占很小的画面区域，且在较长片段中偶发出现。作者提出带有可训练 selectors 的多模态 Transformer，将长音频流与视觉流提炼为较短序列，再预测两者的时间偏移。 与说话人正面视频中时空较密集的音画对应不同，本文面向同步线索在空间和时间上均稀疏的场景。其核心机制是先压缩长序列，再利用压缩后的跨模态表征估计偏移。摘要未说明 selectors 的具体结构、监督方式、损失函数及输入特征，不能据此判断其是否采用硬选择或如何保持时间定位精度。 作者还识别了音视频压缩编解码可能引入的伪影，指出模型可能利用这些线索人为解决同步任务；并整理了一个同步信号在时空上稀疏的数据集。作者报告在稠密与稀疏数据集上均进行了定量和定性验证，但摘要未提供数据集名称、规模、划分、对照方法或具体指标；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 与外部音视频之间存在稀疏、可定位的事件对应，selectors 的长序列压缩机制可能用于筛选跨模态对齐线索；这是假设，并非本文已验证的 BCI 效果。可复用的是序列筛选与偏移预测思路，需改造 EEG 输入表征及时间对应建模。低信噪比、通道差异和小样本可能使选择器遗漏弱事件或依赖伪影。一个可证伪的小实验是在具有已知同步关系的 EEG—刺激记录上注入时间偏移，在相同划分与训练预算下比较 selectors 和等长均匀采样的偏移估计误差，并检查被选片段是否覆盖真实事件。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的是以可训练 selectors 压缩长时音视频流、提取稀疏同步线索的机制，以及对编解码伪影造成任务捷径的识别；其对 EEG/BCI 的适用性尚未验证。

1月1日周六
  1. OpenReview · State space models75

    面向符号音乐建模的领域知识启发音乐嵌入空间与新型注意力机制

    基于摘要分析。该研究针对符号音乐建模中相对属性利用不足的问题，提出 Fundamental Music Embedding（FME）及 RIPO attention，使模型同时表示音高等绝对属性与音程等相对属性。主要研究对象是符号音乐，而非 EEG 或 BCI。 核心机制：FME 基于偏置调整的正弦编码，旨在高效表示绝对与相对属性，并显式保留平移不变性等音乐基本性质。RIPO attention 利用相对索引、音高与起音时刻嵌入，将音乐领域知识引入注意力计算；组合模型称为 RIPO transformer。摘要未提供编码公式、注意力计算细节、损失函数或训练配置。 结果：在旋律补全任务中，作者报告 RIPO transformer 优于 music transformer 与 linear transformer。在下游音乐生成任务中，作者报告未再观察到其所述的退化现象，且主观与客观评价均优于所比较的先进 transformer 模型。摘要未给出数据集、数据划分、指标数值、主观评价组织方式或退化现象的操作性定义，实验协议、消融及统计信息尚未验证；上述结论不能扩展为所有音乐生成场景中的保证。 平台推测（待验证）：可迁移的假设是，显式区分绝对位置与相对时间关系，可能帮助 EEG 模型表达时间结构。原方法依赖具有明确音高、起音时刻与音程语义的符号 token，EEG 连续波形并不具备同等属性，因此音乐嵌入不能直接照搬。可考虑复用相对关系编码思路，但需重定义 EEG 分段及时间关系，并单独论证不变性；低信噪比、跨被试时延差异与小数据可能削弱收益，错误的不变性还可能丢失任务相关信息。 一个可证伪的小实验是在固定 EEG 数据划分、模型容量和训练预算下，对比普通位置编码与仅引入相对时间编码的模型，检查原始样本和受控时间偏移后的任务表现是否一致改善。该实验仅检验迁移假设，不代表已有 EEG 效果；相关 EEG 工作尚未检索确认，代码与复现条件也尚未验证。

    阅读价值：值得阅读的具体原因是其将符号音乐的绝对属性与相对属性统一到具有明确不变性约束的嵌入空间，并据此构造注意力；作者报告的任务收益及该机制对 EEG 的适用性仍需分别核对。

1月1日周五
  1. OpenReview · EEG71

    一种用于癫痫发作预测的新型神经形态计算方法

    基于摘要分析。该研究针对 CNN 癫痫发作预测方法计算开销与功耗较高、难以部署于可穿戴设备的问题，提出将 EEG 样本编码为脉冲序列，再使用 Spiking-CNN 进行预测的神经形态计算方法。 核心机制是通过作者设计的 gaussian random discrete encoder（高斯随机离散编码器）将 EEG 样本转换为脉冲序列，再交由结合 CNN 与脉冲神经网络（SNN）特点的 Spiking-CNN 处理。摘要未提供编码规则、网络结构、神经元动力学、训练方法及推理时间窗，这些实现细节尚未验证。 作者报告，在摘要所述癫痫发作预测实验中，灵敏度为 95.1%、特异度为 99.2%、AUC 为 0.912，计算复杂度相较 CNN 降低 98.58%。但摘要未说明数据集、被试数量、被试内或跨被试划分、预测提前量、对照 CNN 配置，以及计算复杂度的计量方式，因此这些结果只能在该文尚待核对的实验协议下理解，不能直接与其他研究比较。 该工作的主要对象是 EEG 癫痫发作预测，而非通用 BCI 解码。作者据此认为方法具有硬件友好性与较高预测精度；计算复杂度降低并不直接等同于设备实测能耗降低。复现时需核对编码器参数、训练与推理流程、数据划分、发作前状态定义及硬件测量条件；实验协议、消融及统计信息尚未验证。

    阅读价值：值得阅读的具体原因是作者将 EEG 脉冲编码与 Spiking-CNN 用于癫痫发作预测，并报告相对 CNN 的计算复杂度下降，但其可穿戴部署价值仍需核对计算口径与实测功耗。