跳到正文
OpenReview · Representation learning· Hulingxiao He; Zhi Tan; Yuxin Peng·· 2026-05-01精选AI 评分74

面向大型多模态模型的层次表征正则化分类树学习

Learning Taxonomic Trees with Hierarchical Representation Regularization for Large Multimodal Models

AI 导读

基于摘要分析。本文针对大型多模态模型(LMMs)缺乏分类体系知识、层次视觉识别(HVR)一致性不足的问题,提出即插即用的 Hierarchical Representation Regularization(HiR²),在微调中显式约束表征的分类层级关系。原研究对象是视觉—语言概念的分类树与层次识别,并非 EEG 或 BCI。 方法首先利用文本线索,引导从 LLM 中间层提取由粗到细的视觉特征,构建语义感知的视觉树。正则项包含两个互补目标:taxonomic entailment loss 在 Lorentz 模型中利用双曲蕴含锥约束层级关系;discriminative dispersive loss 则促进语义相近嵌入在单位球面上的角度分离,同时旨在不扰动径向层级结构。其核心思路是同时保留概念的上下位组织与相近类别的可分性,而非仅依赖语言建模目标。 作者报告,HiR² 在多种 LMMs 与微调方法中能够有效捕获分类体系结构;摘要未提供具体模型、数据集、划分、指标或效果数值,实验协议、消融及统计信息尚未验证。摘要提供了代码地址,但实现内容、运行依赖与复现条件尚未核验。 平台推测(待验证):若 EEG 任务具有明确且可信的标签层级,该类层级约束可能用于研究粗粒度与细粒度解码的一致性。可复用候选是双曲层级约束与角度分离目标;文本引导的视觉树构建需改造为适配 EEG 表征与任务标签结构的模块。该假设依赖可靠的层级监督,低信噪比、跨被试差异、通道变化及小样本可能使层级约束放大错误关系。一个可证伪的小实验是在固定跨被试划分和同一 EEG 编码器下,对比无正则、单独两项正则及联合正则,同时检查细粒度分类表现与层级一致性是否共同改善。上述迁移并非论文已验证结果;已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其如何联合约束分类层级与类别可分性,尤其是双曲蕴含锥和球面角度分离的互补作用;摘要尚不足以验证效果幅度或 EEG 迁移价值。

来源:OpenReview · Representation learning · openreview.net