跳到正文
OpenReview · Representation learning· Yuncheng Guo; Xiaodong Gu·· 2025-12-31精选AI 评分76

MMRL++:面向视觉-语言模型的参数高效、交互感知表示学习

MMRL++: Parameter-Efficient and Interaction-Aware Representation Learning for Vision-Language Models

AI 导读

基于摘要分析。该研究针对预训练视觉-语言模型(VLMs)在少样本适应时易过拟合的问题,提出 Multi-Modal Representation Learning(MMRL),通过共享表示空间连接图像与文本编码器,并进一步提出强调参数效率和模态内交互的 MMRL++。主要研究对象是视觉-语言迁移学习,而非 EEG 或 BCI。 MMRL 构建可学习、模态无关的共享表示空间,将其中的 space tokens 分别投影为文本和图像编码器中的 representation tokens。这些 token 被插入编码器较高层,以适应任务特定特征,同时保留低层的一般知识。训练时联合优化 class 与 representation 特征:representation tokens 使用可训练投影层,class token 的投影层保持冻结;另以冻结 VLM 的零样本特征为参照,对 class 与文本特征施加对齐正则。摘要未给出具体损失公式及权重。 推理采用解耦策略:base 任务同时使用 class 和 representation 特征,novel 任务仅使用 class 特征,作者将此归因于后者更强的泛化能力。MMRL++ 在此基础上减少可训练参数,并增强模态内、尤其是不同层 representation tokens 之间的交互,以促进梯度共享与实例特定信息传播;具体连接方式和参数规模尚未验证。 作者报告,在 15 个数据集上的实验中,MMRL 与 MMRL++ 持续优于所比较的现有先进方法,并兼顾任务适应与泛化。摘要未列出数据集名称、少样本配置、划分、基线、指标及数值,因此无法量化优势或判断不同协议下的稳定性;实验协议、消融及统计信息尚未验证。 平台推测(待验证):其可迁移假设是,在具有预训练 EEG 编码器及配对文本监督的条件下,共享表示 token 与冻结特征约束可能缓解小样本适应中的知识遗忘。可复用的是 token 适应和冻结参照机制,需改造的是 EEG 输入接口、跨模态配对及类别文本定义;低信噪比、通道差异、跨被试偏移和有限配对数据均可能使其失效。一个可检验的小实验是在固定跨被试划分及相同标注预算下,对照冻结编码器线性探测、token 适应及加入冻结特征约束后的表现,分别评估已见与未见类别。该设想不构成已验证的 EEG/BCI 效果,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其共享表示 token、冻结知识约束与 base/novel 任务差异化推理能否兼顾少样本适应和泛化,尤其需验证 MMRL++ 的参数节省与层间交互各自带来的收益。

来源:OpenReview · Representation learning · openreview.net