跳到正文

算法、任务与模态

Few-shot 最新动态

Few-shot 研究索引;按可核对的标签归档,不以热度评价质量。

65 条精选近 30 天 16 条共收录 87 条

更新

精选归档 · 第 4 页

2月24日周四第 61–65 条
  1. OpenReview · State space models70

    ASCM:一种无需答案工程的答案空间聚类提示方法

    基于摘要分析。本文研究少样本文本分类与自然语言推断(NLI)中的提示学习:同一类别可对应多种语言表达,而人工答案设计和自动答案搜索可能限制答案空间。作者提出答案空间聚类提示模型 ASCM,并结合 synonym initialization(SI)与半监督 stair learning(SL),以减少对人工答案映射的依赖。 核心机制:摘要称,ASCM 与 SI 在语义聚类的嵌入空间中自动对所有答案 token 进行分类;SL 则按顺序将较强模型的知识蒸馏至较弱模型。其方法重点是答案空间的组织及模型间知识传递,而非状态空间模型;来源栏目名称不能作为论文采用该类架构的证据。聚类如何构建、SI 的具体初始化步骤、SL 的模型排序依据、损失函数及未标注数据使用方式尚未验证。 结果与证据边界:作者报告,ASCM+SL 在少样本设置下显著优于既有最先进技术。摘要未提供数据集名称、样本规模、划分协议、指标数值或对照方法,因此无法判断增益幅度及适用范围;实验协议、消融及统计信息尚未验证,也不能据此认定各模块的独立贡献。 与 EEG/BCI 的关系:原研究对象是语言模型的答案 token 与文本类别映射,机制依赖语言语义嵌入及提示学习任务结构。当前材料没有说明神经信号表征如何与该答案空间对应,不能将文本任务结果视为 EEG 分类或 BCI 解码效果。相关 EEG 工作尚未检索确认,现阶段不提出直接迁移的复现实验建议。原领域复现需进一步核对预训练语言模型、提示模板、答案空间定义、少样本抽样方式、半监督数据来源及实现可用性。

    阅读价值:值得核对其以语义聚类替代人工答案映射的机制,以及 stair learning 在少样本文本任务中的独立增益;摘要不足以确认其对 EEG/BCI 的适用性。

1月1日周六
  1. OpenReview · Representation learning76

    通过多任务表征学习理论改进少样本学习

    基于摘要分析。本文研究如何利用源任务学习共享表征,降低求解目标任务所需的样本量,并以多任务表征(MTR)学习理论分析少样本分类中的元学习方法。其主要贡献是解释梯度型与度量型元学习算法在实践中的差异,并据此提出新的谱正则化项。 理论与方法:作者回顾近期 MTR 理论进展,将常见元学习算法放入该框架分析,并提出理论解释。摘要未说明两类算法的具体差异、学习界所依赖的假设、正则化作用于何种矩阵或表征,也未给出损失形式及训练实现,因此不能进一步确定其约束机制。 结果与证据:作者报告,在少样本分类基准上开展实验,验证了所提谱正则化的有效性。摘要未列出基准名称、任务划分、每类样本数、对照算法或指标数值,故无法判断收益大小及不同设置下的稳定性;实验协议、消融及统计信息尚未验证。作者将其定位为把近期 MTR 学习界用于少样本分类实践的首次贡献,这一优先性主张尚未独立核实。 平台推测(待验证):该机制可能对应 EEG 中利用多个源被试或源任务学习表征、减少新被试标注需求的问题,但依赖源任务与目标任务具有可共享结构。可考虑复用 MTR 分析框架和谱正则化思想,EEG 编码器、任务构造及通道对齐则需适配;低信噪比、被试差异、通道不一致和小样本条件可能使共享表征产生负迁移或使谱估计不稳定。一个可检验的小实验是在固定跨被试划分与目标被试标注预算下,对同一元学习基线比较加入与不加入该正则化的表现,并在相同协议下检查不同随机种子的稳定性。此建议不是论文已验证的 EEG 结果,相关 EEG 工作尚未检索确认。

    阅读价值:值得核对其如何将多任务表征学习的学习界转化为谱正则化,以及该正则化对不同元学习算法的适用条件;摘要支持这一理论到方法的阅读价值,但具体收益与 EEG 迁移效果尚未验证。

  2. OpenReview · State space models71

    ASCM:无需答案工程的答案空间聚类提示方法

    基于摘要分析。本文研究少样本文本分类与自然语言推断(NLI)中的提示学习:同一类别可对应多种答案 token,而手工答案设计或自动答案搜索可能限制可用答案空间。作者提出 answer space clustered prompting model(ASCM),结合 synonym initialization(SI,同义词初始化),在语义聚类的嵌入空间中自动对答案 token 进行类别归属,并引入半监督方法 stair learning(SL)传递模型知识。 核心机制是将答案 token 与类别的对应关系置于语义聚类空间中处理,减少对人工指定答案的依赖;SL 则按次序将较强模型的知识蒸馏给较弱模型。摘要未说明聚类算法、嵌入更新方式、损失函数、模型强弱判定标准或蒸馏顺序,具体实现尚未验证。其依赖预训练语言模型、文本提示及答案 token 的语义结构,主要研究对象并非神经信号解码。 作者报告,ASCM+SL 在少样本设置下显著优于既有最先进技术,但摘要未提供数据集、样本数量、数据划分、指标、基线名称或数值。实验协议、消融及统计信息尚未验证,因此不能据此量化提升幅度,也不能区分 ASCM、SI 与 SL 各自的贡献。 平台推测(待验证):若 EEG 解码系统已通过语言模型输出文本答案,语义聚类的答案映射可能帮助处理同一意图的多种语言表达;这是有条件的迁移假设,不适用于直接将 EEG 类别视为语言 token。可复用候选是答案聚类与知识蒸馏模块,需改造神经信号到语言表示的接口,并验证答案语义与解码类别是否一致。低信噪比、跨被试及通道差异可能造成表征失配,小数据下蒸馏也可能放大教师错误。一个可检验的小实验是在已有 EEG—文本解码系统中,固定编码器、数据划分及训练样本,对比固定答案映射与语义聚类映射,并单独检验 SL 的增益。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对 ASCM 如何通过语义聚类扩大提示学习的答案空间,以及 stair learning 如何稳定传递模型知识;摘要未提供定量结果,其少样本优势及对 EEG 的适用性尚未验证。

  3. OpenReview · Representation learning74

    面向 CAD 的自监督表示学习

    基于摘要分析。该研究针对计算机辅助设计(CAD)原生参数化边界表示(B-Rep)中大规模数据缺少标签、已标注数据规模较小且任务专用标签获取昂贵的问题,提出利用未标注 CAD 几何进行自监督表示学习,再服务于监督学习任务。核心贡献是学习一种混合隐式/显式表面表示,研究对象是机械零件的 CAD 几何,而非神经信号或 BCI。 技术机制:摘要明确了 B-Rep 几何、混合隐式/显式表面表示以及预训练到监督任务的路径,但未说明两类表示如何结合、自监督目标、网络结构或下游适配方式。这些细节及其对几何数据结构的依赖尚未验证。 结果与证据边界:作者报告,该预训练显著改善少样本学习表现,并在多个现有 B-Rep 基准上达到最先进水平。摘要未提供基准名称、样本量、数据划分、对照方法、指标或具体数值,因此无法核对提升幅度及可比性;实验协议、消融及统计信息尚未验证。复现需取得全文并确认数据预处理、预训练目标、少样本设定及实现条件。 与 EEG/BCI 的关系:平台推测(待验证),其利用未标注数据缓解标签稀缺的思路与 EEG 小样本学习存在问题层面的对应,但摘要没有给出从 CAD 表面表示到 EEG 时序或通道结构的具体机制路径。现阶段不宜将该表示直接视为可复用的 EEG 模块,也不足以提出针对性迁移实验;已有 EEG 相关工作尚未检索确认。

    阅读价值:值得关注其利用未标注 B-Rep 几何学习混合隐式/显式表面表示、改善少样本监督学习的机制,但具体预训练目标与基准协议尚未验证,不能据此认定其适用于 EEG。

1月1日周五
  1. OpenReview · State space models71

    通过知识迁移实现高效设计空间探索

    基于摘要分析。本文研究微处理器设计空间探索(DSE)中配置空间庞大、仿真耗时的问题,提出迁移学习框架 TrDSE,利用已有程序的带标签样本,为仅有少量仿真样本的新目标程序构建响应预测模型。主要贡献是将程序间知识迁移用于减少针对每个新程序单独建立预测器所需的采样成本,研究对象并非 EEG 或 BCI。 机制方面,TrDSE 包含两个阶段:首先利用 orthogonal array sampling(正交表采样)和分布相关特征对程序进行聚类;随后在聚类结果指导下,通过迁移学习回归算法预测目标程序在设计空间中各配置的响应。该路径依赖源程序的带标签样本、目标程序的少量带标签样本,以及可用于比较程序的分布特征。具体预测响应、特征定义、回归算法与优化目标尚未验证。 作者报告,在 SPEC CPU 2006 suite 基准上的评估表明,TrDSE 比所比较的先进 DSE 技术更高效且更有效。摘要未提供具体指标、提升幅度、采样预算、数据划分或对照方法名称,实验协议、消融及统计信息尚未验证,因此不能量化其优势或判断聚类与迁移各自的贡献。 平台推测(待验证):其“先识别相近源任务,再迁移回归知识”的机制可能为 EEG 跨被试小样本回归提供假设,但原领域有效不等于 BCI 有效。可借鉴源任务筛选与迁移回归流程;程序配置采样和分布特征则需改造为适合 EEG 的采集条件与信号表征。低信噪比、通道差异及小样本下不稳定的分布估计,可能导致源被试选择失准和负迁移。一个可证伪的小实验是在固定目标被试标签预算与统一测试划分下,对比仅用目标数据、直接汇集源数据、先聚类筛选源被试再迁移三种回归方案,检查筛选是否稳定降低测试误差。已有 EEG 相关工作尚未检索确认。

    阅读价值:值得核对 TrDSE 如何通过程序聚类选择可迁移知识,并降低新程序的仿真采样需求;其对 EEG 小样本回归的借鉴价值尚未验证。