跳到正文

算法、任务与模态

Few-shot 最新动态

Few-shot 研究索引；按可核对的标签归档，不以热度评价质量。

247 条精选近 30 天 25 条共收录 310 条

更新

精选归档 · 第 13 页

2月1日周一第 241–247 条
  1. OpenReview · Representation learning72

    面向嵌入式设备少样本学习的基于超球面的权重印刻

    基于摘要分析。该研究面向嵌入式神经网络加速器上的少样本图像分类，提出基于超球面的 Weight Imprinting（WI，权重印刻）方法，通过带正则化、感知印刻机制的训练，改善新类别分布呈多模态以及嵌入对训练类别过拟合的问题。 WI 的核心应用条件是少样本学习阶段不依赖梯度下降，因此适用于不支持反向传播的设备，例如边缘张量处理单元；这不意味着其前期神经网络训练也无需反向传播。摘要指出，已有 WI 难以处理多模态的新类别分布，且嵌入过拟合训练类别可能显著损害新类别分类表现。本文以超球面机制及相应正则化训练应对这些限制，但摘要未提供超球面的构造方式、类别表示、损失函数或印刻更新规则。 作者报告在三个图像数据集上通过广泛实验展示了方法有效性；数据集名称、少样本任务配置、划分方式、对照基线、具体指标及设备端开销尚未验证，实验协议、消融及统计信息也尚未验证。 平台推测（待验证）：若该机制能够利用少量标注样本更新新类别表示而不执行反向传播，可能用于受限设备上的 EEG 少样本类别适配。可考虑复用印刻更新模块，但需改造 EEG 特征编码及其训练流程；图像类别的多模态结构不能直接等同于 EEG 的跨被试或跨会话变化，低信噪比、通道变化和小样本估计不稳均可能使超球面表示失效。一个可证伪的小实验是：固定同一 EEG 编码器及预先规定的数据划分，在相同标注预算下比较普通 WI 与该方法的保留类别分类表现，并记录更新耗时与内存占用。该迁移假设不属于原文已验证结论，已有 EEG 相关工作尚未检索确认。

    阅读价值：该研究针对不支持反向传播的嵌入式设备，探索兼顾新类别多模态分布与嵌入泛化的少样本学习机制，值得核对其超球面表示及免梯度更新条件，但其 EEG/BCI 适用性尚未验证。

1月1日周五
  1. OpenReview · Representation learning77

    THE Benchmark：面向单目高度估计的可迁移表征学习

    基于摘要分析。该研究面向城市三维建模中的单目高度估计，针对常规数据集训练与测试难以反映真实应用中分布变化的问题，构建 Cross-dataset 迁移学习基准，并提出 few-shot Cross-dataset transfer 实验协议。研究还引入 scale-deformable convolution 模块，以增强基于窗口的 Transformer 对尺度变化的处理能力。 基准包含一个新构建的大规模合成数据集、一个新采集的真实世界数据集，以及来自不同城市的四个既有数据集。其评估重点是模型跨数据集迁移，而非仅在常规设置下估计高度。摘要未给出各数据集规模、输入影像条件、高度标注来源、训练与测试划分、few-shot 样本预算及适应流程，这些内容尚未验证。 方法层面，作者将尺度可变形卷积用于增强窗口式 Transformer，但摘要未说明该模块如何调整采样位置或尺度，以及具体训练目标。作者报告所提方法在传统设置与 Cross-dataset 迁移设置下有效；摘要未提供指标、数值或对照模型，因此无法判断收益幅度及其适用范围。实验协议、消融及统计信息尚未验证。作者声明数据与代码已公开，实际可获取性与复现条件仍需核对。 平台推测（待验证）：可借鉴的主要是少样本跨域评估思路，而非直接复用城市影像高度估计模型。假设该评估思想可用于 EEG，可将源域与目标域明确为不同数据集，在固定目标域标注预算下比较直接迁移与少样本适应；但须改造输入、任务输出及通道对应关系。空间尺度变化与 EEG 时间尺度变化并不等价，低信噪比、跨被试差异、通道不一致及小样本过拟合均可能使迁移失败。一个可检验的小实验是在任务与标签一致的 EEG 数据集间，固定源域训练和目标域测试划分，比较不适应与少样本适应的表现；该实验只能检验评估思路，不能验证尺度可变形模块的有效性。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其 few-shot Cross-dataset 评估协议与尺度可变形卷积设计，以核对城市影像高度估计中的迁移能力评估方式；这些机制对 EEG 的适用性尚未验证。

12月31日周四
  1. OpenReview · Representation learning76

    让理论落地：从学习界到元学习算法

    基于摘要分析。本文研究多任务表征学习（MTR）：利用源任务学习表征，以降低求解目标任务所需的样本量。核心贡献是从 MTR 理论中的学习界出发，分析元学习算法，并据此提出新的谱正则项，用于改进 few-shot classification。 作者首先回顾近期 MTR 理论进展，再在这一框架下分析常用元学习算法，指出基于梯度与基于度量的算法在实践中存在根本差异，并给出理论解释。随后，作者将理论所得见解转化为谱正则项。摘要未提供该差异的具体内容、正则作用的对象、数学形式或训练流程，因此尚不能判断其实现成本与适用条件。 作者报告，该正则项在 few-shot classification 基准实验中改善了元学习方法的表现；摘要未列出数据集、任务构造、数据划分、对照方法及量化指标，实验协议、消融及统计信息尚未验证。其研究对象是通用少样本分类，而非 EEG 或 BCI。 平台推测（待验证）：若能将不同被试或会话组织为具有共享任务结构的源任务，该框架可能为 EEG 目标任务标注不足提供研究思路。这一假设依赖源任务与目标任务具有可迁移表征，以及足够的任务多样性。可考虑复用表征学习与谱正则机制，但需核对全文后确定正则对象，并改造 EEG 输入编码和任务采样；低信噪比、跨被试差异、通道不一致及小数据估计误差都可能削弱收益。一个可检验的小实验是在固定跨被试划分与目标被试标注预算下，对同一元学习基线比较加入和不加入该正则项的效果，并报告多次采样的不确定性。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其如何将多任务表征学习的理论界转化为可训练的谱正则项，但具体正则形式、收益及其对 EEG 少样本学习的适用性尚未验证。

12月1日周二
  1. OpenReview · Representation learning74

    通过学习协同正则化稀疏表示，以更少草图识别更多类别

    基于摘要分析。本文研究自由手绘草图的少样本分类问题，针对草图外观与结构变化大、逐幅手绘导致训练数据获取成本高的困难，提出基于协同正则化嵌入的分类框架。核心思路是利用已学习草图中共同或可共享的部件，将查询草图映射到协同正则化的稀疏表示空间。 作者同时提出一个包含 100 个类别、8,000 幅具有部件级标注的草图数据集。作者报告，在 5-way one-shot 分类设置下，Accuracy 为 85%；在 20-way one-shot 设置下，Accuracy 为 51%。摘要未说明训练与测试类别划分、任务采样方式、对照基线、结果波动，以及这些结果与所提数据集的具体对应关系，因此不能据此判断相对优势或跨类别泛化程度。正则项形式、稀疏表示求解方式、部件标注参与训练的方式，以及实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，共享结构与稀疏表示可能为少样本 EEG 分类提供归纳约束，但草图部件并不天然对应 EEG 的时空成分。原方法围绕具有可辨识部件的图像展开，其对部件监督和训练规模的依赖仍需核对；迁移时可考察表示层面的共享约束，但需重构 EEG 特征与共享成分的定义，不能直接沿用图像部件。低信噪比、跨被试差异、通道配置变化和小数据下的成分估计不稳定，均可能使该假设失效。取得全文并确认方法可复现后，可在固定的 EEG 少样本协议下，以相同特征和分类器比较加入与不加入共享稀疏约束的结果，检验其是否带来稳定收益。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是利用手绘草图中可共享的部件学习协同正则化稀疏表示，以应对少样本分类；其对 EEG 的适用性尚未验证。

1月1日周三
  1. OpenReview · Representation learning71

    面向冷启动用户与物品的少样本表征学习

    基于摘要分析。本文研究推荐系统中冷启动用户与物品难以获得准确表征的问题，将其建模为少样本学习任务：利用目标用户或物品的有限训练实例，通过表征函数预测其嵌入。核心贡献是采用基于注意力的编码器，将每个实体的 K 个训练实例作为交互上下文进行编码与聚合。 该机制以用户—物品交互实例为输入，输出可供下游任务使用的实体嵌入，主要研究对象是推荐系统而非神经信号。摘要未说明训练目标的具体形式、目标嵌入如何获得、注意力结构以及训练与测试实体如何划分，这些内容尚未验证。 作者报告，在冷启动用户与物品的表征预测实验中，该方法显著优于已有基线，并改善了若干使用实体嵌入的下游任务；但摘要未给出数据集、K 的具体取值、基线名称、指标、效应大小或统计检验信息，因此无法核对收益幅度及适用条件。实验协议、消融及统计信息尚未验证，代码与复现条件也尚未确认。 平台推测（待验证）：若将新被试视为冷启动实体，将其少量校准试次编码后作为上下文聚合，这一思路可能用于估计被试表征，针对跨被试 EEG 校准数据有限的问题。可复用的是实例编码与注意力聚合框架；需改造的是 EEG 试次编码器、被试表征的监督目标及其与解码器的接口。该假设依赖足够多训练被试和具有代表性的校准试次，低信噪比、通道差异与小样本注意力过拟合均可能导致失败。可在固定 EEG 任务中按被试隔离训练与测试，在相同校准试次数及解码器条件下比较注意力聚合与均值聚合，检验前者是否改善新被试解码。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读的是将冷启动实体的表征估计转化为少样本上下文聚合的机制，但摘要不足以核实其相对基线的收益，也不能据此确认对 EEG/BCI 的有效性。

  2. OpenReview · Representation learning78

    基于网络摄像头的视线估计表征学习

    基于摘要分析。这篇学位论文研究如何利用普通网络摄像头图像估计用户视线，并通过眼形与眼球解剖先验、显式和隐式表征学习，减少对终端用户人工标注与校准的依赖。作者报告，在公开数据集评估中，所提出的表征在目标用户无标注及少量标注条件下均改善了视线估计性能，但摘要未提供具体误差数值或完整对照协议。 研究包含四条技术路线。第一，以眼部区域关键点作为传统视线估计方法的中间表征，通过眼睑与虹膜形状坐标描述，改善跨数据集泛化，以及少量标注条件下对未见用户的适配。第二，构造仅由视线方向标签即可生成的图示中间表征，将视线方向估计分解为两个子问题；作者报告其改善了跨用户视线估计，但摘要未说明具体表征形式与子任务定义。第三，通过解耦与变换网络学习视线方向变化的等变性，同时分离头部朝向的影响，并将该表征用于元学习；作者报告，仅用目标用户一个标注样本进行适配即可取得性能改善，具体幅度尚未验证。 第四，联合建模屏幕视觉刺激与可见眼动之间的时空关系。作者采集了包含54名参与者、同步多摄像头视角及屏幕内容视频的新数据集，并提出自动视线估计细化架构。作者报告，在目标用户无标注条件下也能改善性能，其中用于模拟个体视线定义偏移的数据增强被认为起到重要作用。训练所需的其他监督信息、数据划分、基线、消融及统计信息尚未验证；不能将“目标用户无标注”理解为整个训练过程无监督。 本文主要对象是视觉图像驱动的视线估计，而非 EEG 解码。平台推测（待验证）：其个体偏移建模可能适用于带眼动输入的混合 BCI，但需要匹配的图像、刺激及校准信息，不能直接迁移为 EEG 表征方法。已有 EEG 相关工作尚未检索确认。复现应先核对原任务的公开数据集、标注预算和跨用户划分，以及视觉刺激信息在训练与推理时的可用性。

    阅读价值：该学位论文摘要汇集了眼部几何中间表征、视线与头姿解耦、少样本个体适配及视觉刺激—眼动联合建模，值得核对各机制在跨用户与跨数据集条件下的独立贡献，但不能据此推断 EEG/BCI 效果。

1月1日周五
  1. OpenReview · State space models71

    通过知识迁移实现高效设计空间探索

    基于摘要分析。本文研究微处理器设计空间探索（DSE）中配置空间庞大、仿真耗时的问题，提出迁移学习框架 TrDSE，利用已有程序的带标签样本，为仅有少量仿真样本的新目标程序构建响应预测模型。主要贡献是将程序间知识迁移用于减少针对每个新程序单独建立预测器所需的采样成本，研究对象并非 EEG 或 BCI。 机制方面，TrDSE 包含两个阶段：首先利用 orthogonal array sampling（正交表采样）和分布相关特征对程序进行聚类；随后在聚类结果指导下，通过迁移学习回归算法预测目标程序在设计空间中各配置的响应。该路径依赖源程序的带标签样本、目标程序的少量带标签样本，以及可用于比较程序的分布特征。具体预测响应、特征定义、回归算法与优化目标尚未验证。 作者报告，在 SPEC CPU 2006 suite 基准上的评估表明，TrDSE 比所比较的先进 DSE 技术更高效且更有效。摘要未提供具体指标、提升幅度、采样预算、数据划分或对照方法名称，实验协议、消融及统计信息尚未验证，因此不能量化其优势或判断聚类与迁移各自的贡献。 平台推测（待验证）：其“先识别相近源任务，再迁移回归知识”的机制可能为 EEG 跨被试小样本回归提供假设，但原领域有效不等于 BCI 有效。可借鉴源任务筛选与迁移回归流程；程序配置采样和分布特征则需改造为适合 EEG 的采集条件与信号表征。低信噪比、通道差异及小样本下不稳定的分布估计，可能导致源被试选择失准和负迁移。一个可证伪的小实验是在固定目标被试标签预算与统一测试划分下，对比仅用目标数据、直接汇集源数据、先聚类筛选源被试再迁移三种回归方案，检查筛选是否稳定降低测试误差。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得核对 TrDSE 如何通过程序聚类选择可迁移知识，并降低新程序的仿真采样需求；其对 EEG 小样本回归的借鉴价值尚未验证。