跳到正文

算法、任务与模态

Cross-modal Alignment 最新动态

Cross-modal Alignment 研究索引；按可核对的标签归档，不以热度评价质量。

432 条精选近 30 天 80 条共收录 575 条

更新

精选归档 · 第 22 页

1月1日周二第 421–432 条
  1. OpenReview · State space models70

    通过相关性对齐学习共享语义空间，用于跨模态事件检索

    基于摘要分析。本文研究图像与文本之间的跨模态事件检索，提出 S³CA，通过对齐两种模态在深度网络中的非线性相关性，将异构数据映射至可直接比较距离的共享语义空间。研究对象是多媒体事件数据，并非 EEG 或 BCI。 机制与贡献：图像侧使用卷积层与全连接层提取特征，文本侧使用全连接神经网络提取语义特征；两侧网络联合训练，并对层激活的相关性进行对齐。共享空间用于度量不同模态样本之间的距离。摘要未给出相关性的具体定义、对齐损失、语义监督方式及检索距离函数，这些实现细节尚未验证。 数据与结果：作者还贡献了 Wiki-Flickr Event 数据集，其中图像与文本并非逐对相互描述，而是共同描述语义事件。作者报告，在配对与非配对数据集上的跨模态检索实验中，S³CA 优于所比较的当时先进方法；摘要未提供具体指标、数值、数据划分及基线名称，无法据此判断优势幅度或跨事件泛化能力。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若 EEG 片段与图像或文本具有可靠的共同事件标签，相关性对齐与共享空间检索可作为缓解模态分布差异的候选机制，但原领域有效不等于 BCI 有效。可复用的是对齐与联合训练思路；需将图像编码器改为适配 EEG 时序和通道结构的编码器，并明确事件监督及时间对应关系。低信噪比、被试差异、通道配置变化和小样本可能使相关性估计不稳定，或使对齐保留被试因素而非事件语义。一个可检验的小实验是在固定 EEG—刺激事件数据及 Cross-subject 划分下，对比相同编码器有无相关性对齐的跨模态检索表现，并检查事件标签打乱后收益是否消失。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其通过层激活相关性对齐学习共享语义空间的机制，以及按事件关联而非逐样本配对的数据组织方式；其对 EEG 跨模态检索的价值尚未验证。

1月1日周一
  1. OpenReview · Representation learning74

    用于图像—句子检索的全局与协同注意力联合表示学习

    基于摘要分析。本文研究图像—句子检索中不同语义层级的匹配问题，提出 Joint Global and Co-Attentive Representation learning（JGCAR），通过联合全局表示学习与协同注意力学习，改善视觉与文本组件的语义一致性及句子级检索排序。原研究对象是视觉—语言检索，并非 EEG 或 BCI。 机制上，全局表示学习利用模态内和模态间的相对相似性，优化视觉与文本组件表示的语义一致性；协同注意力学习进一步建模不同层级的视觉—语言关系，并采用类似 softmax 的双向排序损失计算图像—句子相似性。作者提出，两部分通过联合学习相互促进：全局学习为协同注意力提供更一致的组件表示，协同注意力则通过反向传播向全局学习传递上下文信息。测试阶段采用两步检索流程，但摘要未说明候选筛选、重排序及计算开销的具体设置。 作者报告，JGCAR 在 MSCOCO 和 Flickr30K 图像—句子检索任务上优于既有方法。摘要未提供具体指标、数值、划分及对照方法，因而无法量化收益或比较不同协议；损失公式、组件提取方式、训练监督、实验协议、消融及统计信息尚未验证。 平台推测（待验证）：若具备配对的 EEG—图像或 EEG—文本数据及可定义的组件表示，其相对相似性约束和双向排序机制可能用于检验跨模态语义对齐。可复用的是排序目标与全局—局部联合学习思路，需改造 EEG 编码器及组件划分；EEG 低信噪比、跨被试差异、通道变化及小样本条件可能使组件对应不稳定。一个可证伪的小实验是在固定跨被试划分、相同 EEG 编码器和训练数据下，比较全局对齐基线与加入协同注意力后的检索结果，并消融相对相似性约束，判断收益是否能在未见被试上保留。该迁移并非原论文结论，已有 EEG 相关工作尚未检索确认。

    阅读价值：值得关注其以模态内及模态间相对相似性约束组件表示、再联合协同注意力改善检索排序的机制，但作者报告的性能优势及向 EEG 跨模态检索迁移的价值仍需分别验证。

  2. OpenReview · Representation learning73

    判别式跨视图二值表示学习

    基于摘要分析。本文研究大规模多媒体数据的紧凑表示，提出 Discriminative Cross-View Hashing（DCVH），通过利用不同视图中的判别信息，端到端学习保留语义的二值表示，服务于跨视图检索、图像到图像检索及图像标注任务；主要研究对象是图像与文本，而非 EEG 或 BCI。 机制上，DCVH 为图像和文本同时采用基于 CNN 的非线性哈希函数与多标签分类。作者提出使用 Direct Binary Embedding（DBE）层，在训练期间实现连续松弛而不使用显式量化损失；另通过最小化 Hamming 距离对齐视图，并以逐位 XOR 运算高效实现。相较于摘要所述的既有方法侧重各视图内部相似性、再由跨视图相似性连接，DCVH 强调不同视图的判别信息及多任务二值表示。具体网络结构、目标函数组合、DBE 的实现及训练与推理流程尚未验证。 作者报告，在两个图像—文本基准数据集上，DCVH 优于所比较的跨视图哈希和单视图图像哈希算法，并在图像标注任务上取得有竞争力的表现。摘要未提供数据集名称、划分、指标、数值及具体基线，实验协议、消融及统计信息尚未验证，因此不能量化优势或判断其适用边界。 平台推测（待验证）：若具备配对 EEG 与任务文本、图像刺激等跨模态数据，以及可共享的多标签语义监督，可假设将判别式二值表示与视图对齐用于 EEG 跨模态检索。可复用的候选机制是 DBE 与 Hamming 距离对齐；EEG 编码器、标签定义和配对策略需改造。低信噪比、被试差异、通道变化及小数据可能使二值化丢失细微信息，或使语义对齐难以泛化。一个可证伪的小实验是固定 EEG 编码器与跨被试划分，对比连续表示、加入 DBE、以及进一步加入视图对齐的检索表现，检验压缩后的语义保持是否成立。已有 EEG 相关工作尚未检索确认，原领域结果不构成 BCI 有效性证据。

    阅读价值：值得核对 DCVH 如何以 Direct Binary Embedding 和 Hamming 距离对齐兼顾二值表示的判别性与跨视图一致性，但摘要中的性能优势及其向 EEG 场景迁移的有效性尚未验证。

  3. OpenReview · Representation learning73

    判别性跨视图二值表示学习

    基于摘要分析。本文针对大规模图像—文本多媒体数据的紧凑表示学习，提出 Discriminative Cross-View Hashing（DCVH），利用不同视图中的判别信息，端到端学习保留语义且具有判别性的二值表示，服务于跨视图检索、图像到图像检索及图像标注任务。原研究对象是多媒体检索与标注，而非 EEG 或 BCI。 机制上，DCVH 同时对图像和文本使用基于 CNN 的非线性哈希函数及多标签分类。作者提出通过 Direct Binary Embedding（DBE）层实现训练时的连续松弛，无需显式量化损失；跨视图对齐则通过最小化 Hamming 距离实现，并利用逐位 XOR 运算高效计算。相较于主要强调各视图内部相似性、再通过跨视图相似性连接的既有方法，其重点是联合利用不同视图的判别信息。具体损失形式、DBE 实现及训练细节尚未验证。 作者报告，在两个图像—文本基准数据集上，DCVH 优于所比较的先进跨视图哈希算法及单视图图像哈希算法，并在图像标注任务中取得有竞争力的表现。摘要未提供数据集名称、划分方式、指标或数值，实验协议、消融及统计信息尚未验证，无法据此判断收益幅度与适用边界。 平台推测（待验证）：假设 EEG 片段与刺激图像或文本存在可靠配对及共享语义标签，可考察判别性二值表示是否有助于紧凑的跨模态检索。可复用的是多标签监督、二值嵌入与跨视图对齐思路；EEG 编码器及其时序输入处理需要改造。低信噪比、被试差异、通道变化和小样本可能使二值压缩丢失有效信息，语义配对也未必反映神经响应。一个可证伪的小实验是在固定数据划分与相同编码器条件下，比较连续表示与加入 DBE、Hamming 对齐的二值表示，检验跨模态检索效果及存储成本；若关注跨被试应用，应单独采用被试隔离划分。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读的具体原因是 DCVH 将多标签判别学习、DBE 二值嵌入与基于 Hamming 距离的跨视图对齐结合，用于统一支持跨视图检索和图像标注；其对 EEG/BCI 的价值尚未验证。

1月1日周日
  1. OpenReview · EEG72

    迈向使用 EEG 正则化的音乐语义深度建模

    基于摘要分析。该研究针对仅依赖音频高层标签或无监督潜在空间难以充分表征音乐语义的问题，将听众的 EEG 感知信息引入音频语义建模。核心贡献是一个端到端双视图 Neural Network 框架，以 Deep Canonical Correlation Analysis（DCCA）损失促进音频与 EEG 语义嵌入空间的最大相关。 机制与研究对象：原论文主要研究音乐音频语义表示，而非 EEG 分类或 BCI 控制。EEG 在训练中提供与听众感知相关的第二视图，约束音频表示学习；摘要称论文介绍了 EEG 数据集的采集过程并用其训练模型，但未提供被试数、刺激组织、通道配置、预处理、视图配对方式及具体网络结构。这些信息及损失实现尚未验证。 评估与结果：作者将学得的语义空间作为音频特征提取器，在独立数据集上通过 music audio-lyrics cross-modal retrieval 代理任务评估迁移能力。作者报告其嵌入优于 Spotify features，并与一个使用约 700 倍训练数据的当时先进嵌入模型表现相当。摘要未给出检索指标、绝对分数、数据集名称或划分细节，因此不能据此量化提升幅度，也不能将训练数据规模差异直接解释为普遍的数据效率优势。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：假设刺激音频与 EEG 具有可靠配对，双视图相关性学习可作为研究感觉刺激与 EEG 共享表示的候选机制；可复用 DCCA 对齐目标，但需针对 EEG 的时序、通道和个体差异改造编码与配对策略。低信噪比、小样本及被试差异可能使模型偏向刺激身份或非目标共同变化，而非可泛化的感知语义。一个可检验的小实验是在按被试隔离的评估中，对比真实音频—EEG 配对、打乱配对和仅音频训练的同一检索任务，以检查 EEG 约束是否带来稳定增益。相关 EEG 工作尚未检索确认；该迁移假设不是原论文已验证的 BCI 结论。

    阅读价值：值得阅读其以 EEG 听觉感知信息约束音频语义嵌入的双视图 DCCA 机制；作者报告了独立数据集上的音频—歌词检索迁移结果，但这并不构成 EEG 解码或 BCI 有效性的证据。

1月1日周五
  1. OpenReview · Representation learning73

    基于深度双向表示学习的跨模态检索

    基于摘要分析。本文研究图像—文本跨模态检索，提出深度双向表示学习模型，将图像与文本映射到共同空间，使跨模态相似度可以直接计算，并联合学习两个检索方向。 核心机制是分别使用卷积式网络提取图像和文本的语义表示，在共同空间中以余弦距离衡量跨模态关系。双向架构在训练时同时纳入匹配与不匹配的图文对，并采用最大似然准则构建学习框架，通过反向传播和随机梯度下降优化参数。摘要未给出具体网络结构、似然定义、负样本构造及两个检索方向的目标组合方式，这些内容尚需核对全文。 作者报告，在 IAPRTC-12、Flickr30k 和 Flickr8k 三个公开数据集上的实验支持该架构的有效性及所学表示的语义表达能力。摘要未提供具体指标、数值、数据划分或对照基线，因此不能据此量化性能优势；实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，共同表示空间与双向匹配训练可能用于 EEG—图像或 EEG—文本检索，但原研究依赖具有语义对应关系的图文训练对，其有效性不等于 BCI 有效性。迁移时可保留共同空间和双向训练思路，需将图像或文本一侧的编码器改为适配 EEG 时空结构的编码器，并重新确定配对与负样本规则。低信噪比、跨被试及通道差异、配对数据规模有限均可能使对齐失败。一个可证伪的小实验是在具有明确刺激配对的 EEG 数据上，固定编码器容量和数据划分，比较双向与单向训练的双向检索表现，并分别报告被试内和跨被试结果。相关 EEG 工作尚未检索确认。

    阅读价值：值得阅读其以匹配与不匹配图文对联合训练、同时建模双向检索的表示学习机制，但其对 EEG 跨模态对齐的适用性尚未验证。

  2. OpenReview · Representation learning70

    用于跨模态分类的表征学习

    基于摘要分析。本文研究扫描参数或成像模态差异给监督式图像分类带来的困难，提出两种基于 autoencoders 的表征学习方法，通过约束不同域中对应图像块的表征相似性，学习用于跨模态分类的共同表征。主要研究对象是多模态脑 MRI 图像及合成数据，并非 EEG 或 BCI 解码。 核心机制是在数据表征目标之外加入相似性目标，最小化不同域中对应图像块的表征差异。该方法依赖可建立对应关系的跨域图像块；两种方法之间的结构差异、损失具体形式、对应关系来源及训练流程，摘要均未明确。实验将来自不同模态的训练与测试数据转换到所学共同表征，再针对模态对训练分类器。作者报告，相比标准目标，加入相似性项可以得到更相似的表征，并在这些跨模态分类实验中获得更高的 Accuracy；摘要未提供具体数值、数据集名称、样本规模或划分细节，因此不能判断提升幅度及统计稳健性。实验协议、消融及统计信息尚未验证。 平台推测（待验证）：可迁移的假设是，在 EEG 域适应中，若跨会话或跨设备数据存在可靠的对应片段或事件条件，相似性约束可能帮助减小表征差异。可复用的是共同表征学习与对应样本约束，需改造的是适配 EEG 时序及通道结构的编码器和配对方式。低信噪比、跨被试生理差异、通道不一致及小数据条件可能使配对不可靠，或使相似性约束压缩任务判别信息。一个可检验的小实验是在固定 Cross-session 划分下，对比相同编码器仅使用数据表征目标与加入相似性目标的分类表现，严格区分训练配对数据与测试数据，并同时检查域间表征差异和任务 Accuracy。已有 EEG 相关工作尚未检索确认，原领域结果不能视为 BCI 有效性的证据。

    阅读价值：值得阅读的具体原因是其以对应图像块的表征相似性约束连接不同成像域，作者报告该约束可改善跨模态分类，但对应关系的构建方式与适用条件仍需核对全文。

  3. OpenReview · EEG73

    基于多模态深度学习的多模态情绪识别

    基于摘要分析。该研究针对多生理信号情绪识别，采用多模态深度学习构建情感模型，目标是改善识别性能并降低实际应用中的生理信号采集成本。其主要贡献是围绕单模态增强、多模态促进及跨模态学习，考察 Deep AutoEncoder（DAE）与 Bimodal Deep AutoEncoder（BDAE）生成的共享表征。 技术上，摘要将 DAE 共享表征用于单模态增强，将 BDAE 用于多模态促进；跨模态学习则考察 EEG 与眼动表征之间的训练—测试迁移。摘要未提供编码器结构、共享表征的具体构造方式、损失函数或训练流程，因此尚不能判断不同模态如何对齐，以及推理阶段需要哪些信号。 作者报告：在单模态增强任务中，使用 DAE 共享表征在 SEED 上取得最高 Accuracy 82.11%；在多模态促进任务中，BDAE 在 SEED 和 DEAP 上的平均 Accuracy 分别为 91.01% 和 83.25%。作者称其优于当时的先进方法，但摘要未列明具体对照及其协议，不能据此判断优势幅度或公平可比性。 在 SEED 的跨模态学习任务中，作者报告，以 EEG-based DAE 生成的共享表征作为训练样本、以 eye-based DAE 生成的共享表征作为测试样本，并反向交换训练与测试模态，平均 Accuracy 为 66.34%；摘要未明确该数值如何在两个方向间汇总。 上述结果的被试内或跨被试设置、跨会话设置、数据划分及平均方式尚未验证，不宜将不同任务的 Accuracy 直接比较。实验协议、消融及统计信息尚未验证；降低采集成本是否在实际部署中实现，也需结合全文中的模态使用条件核对。

    阅读价值：值得阅读的具体原因是其将多模态情绪识别区分为单模态增强、多模态促进和跨模态学习，可用于考察 EEG 与眼动共享表征的作用，但各任务的数据划分与采集成本收益尚需全文核对。

1月1日周四
  1. OpenReview · State space models75

    用于零样本动作识别的语义嵌入空间

    基于摘要分析。本文研究视频动作类别不断增加、难以为每个类别收集充足训练数据的问题，将视频特征与类别标签嵌入共同的语义词向量空间，以识别没有对应训练样本的动作类别；核心贡献是将这一语义映射用于视频动作识别，并通过自训练和数据增强改善映射效果。 不同于摘要所述主要面向图像、采用属性语义表示的既有零样本学习（ZSL）研究，本文以词向量作为类别的语义表示。其关键难点是复杂动作的视频时空特征与语义空间之间的映射更难学习。摘要未说明视觉特征提取方式、映射模型、训练目标，以及自训练和数据增强的具体实现，这些内容尚未验证。 作者报告，在包括 HMDB51 和 UCF101 的人类动作数据集上，该方法达到当时最先进的零样本动作识别表现，并称自训练和数据增强可显著改善映射效果。摘要未给出具体指标、数值、已见与未见类别划分、对照基线或自训练使用的数据范围；实验协议、消融及统计信息尚未验证，因此不能据此量化优势或与其他协议下的结果直接比较。 平台推测（待验证）：其跨模态语义对齐机制可能为 EEG 中未见任务类别的识别提供方法参考，但原论文研究对象是视频动作，而非 EEG 或 BCI。迁移假设依赖已见类别的标注 EEG、具有可解释语义关系的类别标签，以及能跨类别保留信息的 EEG 表征。可复用部分是类别词向量与共同嵌入空间；需改造的是信号特征提取、映射训练和自训练样本筛选。低信噪比、跨被试与通道差异、小数据，以及动作词义与 EEG 生理表征不一致，都可能使迁移失败。可检验的小实验是在固定被试内协议下按类别划分训练与测试，比较仅语义映射和加入自训练的未见类别识别结果，并明确限定自训练可用的数据，核对类别泄漏。已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其以语义词向量连接视频与未见动作类别、并通过自训练和数据增强改善映射的思路，但具体实验协议及其向 EEG 零样本识别迁移的有效性尚未验证。

  2. OpenReview · Representation learning71

    通过深度表征学习与标签嵌入学习实现大规模图像标注

    基于摘要分析。本文研究大规模图像标注，提出结合深度表征学习与标签嵌入学习的模型，将图像视觉特征与标签嵌入映射到统一潜在空间，以估计图像与标签的相关性。 技术机制上，模型同时学习视觉表征和标签嵌入，引入度量矩阵计算图像—标签相关性，并围绕“无关标签、图像、相关标签”三元组构建最大间隔目标。摘要未给出具体网络结构、目标函数公式或优化细节，不能进一步确定其实现。作者称，该模型可通过在线学习处理新图像和新标签，且测试计算复杂度相对较低；在线更新条件及复杂度的比较对象尚未验证。 作者报告，在 NUS-WIDE 图像标注实验中，所提模型表现有效。摘要未提供数据划分、对照方法、评价指标及具体数值，实验协议、消融及统计信息尚未验证，因而无法量化其收益或判断各模块的独立贡献。 平台推测（待验证）：其跨领域可复用机制是信号表征与标签嵌入的联合对齐，而非已经验证的 EEG 解码方法。迁移假设依赖 EEG 样本具有明确任务标签，并能构建相关与无关标签三元组；可考虑保留标签嵌入、度量矩阵及排序目标，将图像表征模块替换为 EEG 编码器。EEG 的低信噪比、跨被试差异、通道配置变化和小样本条件可能使对齐不稳定，少量离散标签也可能限制标签嵌入的收益。一个可检验的小实验是在固定 EEG 数据划分、编码器与训练预算下，对比普通分类目标与联合标签嵌入的三元组目标，并分别评估被试内和跨被试表现。该实验仅用于检验迁移假设；已有 EEG 相关工作尚未检索确认。

    阅读价值：值得阅读其图像与标签联合潜在空间、相关性度量及三元组最大间隔目标的组合机制，但其对 EEG/BCI 的适用性尚未验证。

12月31日周三
  1. OpenReview · EEG78

    电生理信号与血流动力学信号的多模态整合

    基于摘要分析。该研究关注同步记录的多模态神经数据，核心问题是如何将 EEG 原始时域信号的非线性函数——频带功率动态——与 NIRS 或 fMRI 测得的血流动力学响应建立联系。作者提出 multimodal source power correlation analysis（mSPoC），用于从多模态测量中恢复共同源。 技术重点在于关联 EEG 的功率变化与另一模态，而非仅讨论原始时域信号之间的关联。摘要说明了算法名称与目标，但未提供空间滤波、目标函数、优化步骤、频带选择或血流动力学时间对齐方式，因此尚不能据此重建算法实现。NIRS 与 fMRI 在摘要中是血流动力学测量的示例，实际验证采用哪一种模态尚未明确。 作者报告，在来自真实 BCI 实验的多模态数据上验证了 mSPoC，并将其恢复共同源的能力与 canonical correlation analysis（CCA）进行对照。摘要未给出定量指标，不能据此判断性能提升幅度，也不能将共同源恢复结果等同于 BCI 分类性能或 ITR 的改善。 复现时需核对实际模态、任务、被试数量、同步与预处理流程、功率估计及时间对齐方式，并确认 CCA 对照的输入表示与评估协议。实验协议、消融及统计信息尚未验证；代码与数据可用性亦尚未验证。

    阅读价值：值得阅读的具体原因是 mSPoC 将 EEG 频带功率动态与血流动力学信号的共同源恢复作为多模态整合目标，并在真实 BCI 数据上与 CCA 对照；具体性能及复现条件尚未验证。

12月31日周二
  1. OpenReview · EEG75

    多变量数据流与频带功率信号的整合

    基于摘要分析。该研究关注同步记录的多模态神经数据，核心问题是如何将原始 EEG 时域信号的非线性函数，例如 EEG 频带功率，与 NIRS 或 fMRI 测得的血流动力学响应联系起来。作者提出 multimodal source power correlation analysis（mSPoC，多模态源功率相关分析），用于处理这一跨模态关联问题。 技术上，研究的分析对象并非原始 EEG 波形与另一模态的直接关系，而是 EEG 功率特征与多变量数据流之间的关系。这一区分对于理解电生理活动与血流动力学信号的联系具有明确意义。不过，摘要未给出 mSPoC 的具体优化目标、源提取方式、频带选择、时间对齐或延迟处理方法，尚不能据此还原算法与实现。 作者报告在模拟数据和真实多模态数据上展示了 mSPoC 框架的有效性及较高性能。摘要未提供真实数据的具体模态组合、数据集、被试数、评估划分、对照方法或指标数值，因此无法判断性能优势的大小及其适用协议；实验协议、消融及统计信息尚未验证。 该工作直接涉及 EEG 多模态分析，但摘要中的证据不等同于 BCI 解码性能或在线应用有效性。复现前需核对完整算法、预处理流程、跨模态同步与时间尺度处理、数据可获得性，以及模拟和真实数据实验各自的评价标准。

    阅读价值：值得阅读的具体原因是 mSPoC 将 EEG 源功率与另一模态的关联作为多模态分析对象；其实际性能与适用条件仍需结合全文实验核对。