跳到正文
OpenReview · State space models· Yuanhuiyi Lyu; Xu Zheng; Jiazhou Zhou; Lin Wang·· 2024-01-01精选AI 评分77

UniBind:LLM 增强的统一且均衡表征空间,用于联结多种模态

UniBind: LLM-Augmented Unified and Balanced Representation Space to Bind Them All

AI 导读

基于摘要分析。UniBind 研究图像、文本、音频、点云、热成像、视频与事件数据七种模态的统一表征学习,提出以 LLM 增强、模态无关的对齐中心替代图像中心表征空间。作者认为,以图像为中心可能造成模态间表征不均衡,而仅以类别名称提取文本嵌入不足以表达多模态语义。 方法包括三步:借助 LLM 与多模态 LLM 构建文本嵌入知识库;结合知识库及编码后的视觉嵌入,自适应构建 LLM 增强的类别级嵌入中心;通过对比学习将各模态嵌入对齐至该中心。作者称该方法可用于各类 CLIP-style 模型,但摘要未提供具体损失形式、中心更新方式或不同模型上的适配细节。 作者报告,零样本识别相较既有方法平均提升 6.36%;在多模态微调设置下,ImageNet 上提升 6.75%,同时可学习参数减少 90%。摘要未明确这些百分比表示相对提升还是百分点变化,也未完整给出对应基线、数据划分及参数统计范围,因此不能跨协议比较。作者另称达到新的最佳性能,具体实验协议、消融及统计信息尚未验证。 平台推测(待验证):其类别级语义中心可能为 EEG 与文本或视觉表征对齐提供参考,但原研究不包含 EEG。迁移假设依赖可用的类别语义、对应监督及稳定的 EEG 编码器;可借鉴文本知识库和中心对齐思路,但需改造 EEG 编码与语义映射。低信噪比、跨被试差异、通道变化及小样本可能使类别中心无法可靠约束 EEG 表征。可在固定编码器、数据划分与训练预算下,小规模比较类别名称文本对齐与 LLM 增强中心对齐,并检验跨被试表现;这只是待检验方案,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对其以 LLM 增强的类别嵌入中心替代图像中心对齐的机制及参数效率,但摘要中的性能增益口径与多模态评估协议尚未验证,不能据此推定 EEG/BCI 有效性。

来源:OpenReview · State space models · openreview.net