跳到正文

算法、任务与模态

Few-shot 最新动态

Few-shot 研究索引；按可核对的标签归档，不以热度评价质量。

104 条精选近 30 天 25 条共收录 128 条

更新

精选归档 · 第 6 页

1月1日周六第 101–104 条
  1. OpenReview · State space models71

    ASCM：无需答案工程的答案空间聚类提示方法

    基于摘要分析。本文研究少样本文本分类与自然语言推断（NLI）中的提示学习：同一类别可对应多种答案 token，而手工答案设计或自动答案搜索可能限制可用答案空间。作者提出 answer space clustered prompting model（ASCM），结合 synonym initialization（SI，同义词初始化），在语义聚类的嵌入空间中自动对答案 token 进行类别归属，并引入半监督方法 stair learning（SL）传递模型知识。 核心机制是将答案 token 与类别的对应关系置于语义聚类空间中处理，减少对人工指定答案的依赖；SL 则按次序将较强模型的知识蒸馏给较弱模型。摘要未说明聚类算法、嵌入更新方式、损失函数、模型强弱判定标准或蒸馏顺序，具体实现尚未验证。其依赖预训练语言模型、文本提示及答案 token 的语义结构，主要研究对象并非神经信号解码。 作者报告，ASCM+SL 在少样本设置下显著优于既有最先进技术，但摘要未提供数据集、样本数量、数据划分、指标、基线名称或数值。实验协议、消融及统计信息尚未验证，因此不能据此量化提升幅度，也不能区分 ASCM、SI 与 SL 各自的贡献。 平台推测（待验证）：若 EEG 解码系统已通过语言模型输出文本答案，语义聚类的答案映射可能帮助处理同一意图的多种语言表达；这是有条件的迁移假设，不适用于直接将 EEG 类别视为语言 token。可复用候选是答案聚类与知识蒸馏模块，需改造神经信号到语言表示的接口，并验证答案语义与解码类别是否一致。低信噪比、跨被试及通道差异可能造成表征失配，小数据下蒸馏也可能放大教师错误。一个可检验的小实验是在已有 EEG—文本解码系统中，固定编码器、数据划分及训练样本，对比固定答案映射与语义聚类映射，并单独检验 SL 的增益。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 ASCM 如何通过语义聚类扩大提示学习的答案空间，以及 stair learning 如何稳定传递模型知识；摘要未提供定量结果，其少样本优势及对 EEG 的适用性尚未验证。

  2. OpenReview · Representation learning74

    面向 CAD 的自监督表示学习

    基于摘要分析。该研究针对计算机辅助设计（CAD）原生参数化边界表示（B-Rep）中大规模数据缺少标签、已标注数据规模较小且任务专用标签获取昂贵的问题，提出利用未标注 CAD 几何进行自监督表示学习，再服务于监督学习任务。核心贡献是学习一种混合隐式/显式表面表示，研究对象是机械零件的 CAD 几何，而非神经信号或 BCI。 技术机制：摘要明确了 B-Rep 几何、混合隐式/显式表面表示以及预训练到监督任务的路径，但未说明两类表示如何结合、自监督目标、网络结构或下游适配方式。这些细节及其对几何数据结构的依赖尚未验证。 结果与证据边界：作者报告，该预训练显著改善少样本学习表现，并在多个现有 B-Rep 基准上达到最先进水平。摘要未提供基准名称、样本量、数据划分、对照方法、指标或具体数值，因此无法核对提升幅度及可比性；实验协议、消融及统计信息尚未验证。复现需取得全文并确认数据预处理、预训练目标、少样本设定及实现条件。 与 EEG/BCI 的关系：平台推测（待验证），其利用未标注数据缓解标签稀缺的思路与 EEG 小样本学习存在问题层面的对应，但摘要没有给出从 CAD 表面表示到 EEG 时序或通道结构的具体机制路径。现阶段不宜将该表示直接视为可复用的 EEG 模块，也不足以提出针对性迁移实验；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其利用未标注 B-Rep 几何学习混合隐式/显式表面表示、改善少样本监督学习的机制，但具体预训练目标与基准协议尚未验证，不能据此认定其适用于 EEG。

  3. OpenReview · State space models76

    HyperTransformer：面向监督与半监督少样本学习的模型生成

    基于摘要分析。该研究面向监督与半监督少样本学习，提出基于 Transformer 的 HyperTransformer，直接根据支持样本生成 CNN 权重，使目标模型能够随具体任务调整，而非仅依赖固定、任务无关的通用嵌入。 核心机制是将任务空间的复杂性承载于高容量 Transformer，同时为单个任务生成较小的 CNN，从而解耦任务空间复杂性与单任务模型复杂性。作者报告，对小型目标 CNN，让任务信息调制全部模型参数比使用固定通用嵌入更有效；对较大模型，仅生成最后一层参数即可获得与当时先进方法相当或更好的结果，且该过程保持端到端可微。摘要未提供具体数据集、支持集规模、评价指标、对照配置或数值；半监督场景中无标签样本的使用方式，以及实验协议、消融及统计信息尚未验证。 平台推测（待验证）：其可迁移假设是，用少量带标签 EEG 支持样本生成任务特定分类模型，可能缓解固定表征难以适应被试差异的问题。可复用的是支持样本条件化权重生成机制；需改造的是 EEG 时空输入编码与目标 CNN，并明确任务如何对应被试、会话或类别。低信噪比、通道配置差异与支持样本过少可能使生成参数不稳定。可检验的小实验是在固定 Cross-subject 划分与相同支持集预算下，对比固定编码器加分类头、仅生成末层权重及生成全部权重，核对少样本适应收益与跨次抽样稳定性。以上并非论文已验证的 EEG 结果，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其由支持样本直接生成任务特定 CNN 权重的机制，以及小模型全参数调制与大模型仅生成末层参数的设计差异；其对 EEG 少样本学习的价值尚未验证。

1月1日周五
  1. OpenReview · State space models71

    通过知识迁移实现高效设计空间探索

    基于摘要分析。本文研究微处理器设计空间探索（DSE）中配置空间庞大、仿真耗时的问题，提出迁移学习框架 TrDSE，利用已有程序的带标签样本，为仅有少量仿真样本的新目标程序构建响应预测模型。主要贡献是将程序间知识迁移用于减少针对每个新程序单独建立预测器所需的采样成本，研究对象并非 EEG 或 BCI。 机制方面，TrDSE 包含两个阶段：首先利用 orthogonal array sampling（正交表采样）和分布相关特征对程序进行聚类；随后在聚类结果指导下，通过迁移学习回归算法预测目标程序在设计空间中各配置的响应。该路径依赖源程序的带标签样本、目标程序的少量带标签样本，以及可用于比较程序的分布特征。具体预测响应、特征定义、回归算法与优化目标尚未验证。 作者报告，在 SPEC CPU 2006 suite 基准上的评估表明，TrDSE 比所比较的先进 DSE 技术更高效且更有效。摘要未提供具体指标、提升幅度、采样预算、数据划分或对照方法名称，实验协议、消融及统计信息尚未验证，因此不能量化其优势或判断聚类与迁移各自的贡献。 平台推测（待验证）：其“先识别相近源任务，再迁移回归知识”的机制可能为 EEG 跨被试小样本回归提供假设，但原领域有效不等于 BCI 有效。可借鉴源任务筛选与迁移回归流程；程序配置采样和分布特征则需改造为适合 EEG 的采集条件与信号表征。低信噪比、通道差异及小样本下不稳定的分布估计，可能导致源被试选择失准和负迁移。一个可证伪的小实验是在固定目标被试标签预算与统一测试划分下，对比仅用目标数据、直接汇集源数据、先聚类筛选源被试再迁移三种回归方案，检查筛选是否稳定降低测试误差。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 TrDSE 如何通过程序聚类选择可迁移知识，并降低新程序的仿真采样需求；其对 EEG 小样本回归的借鉴价值尚未验证。