超图多模态大语言模型:利用 EEG 与眼动模态评估视频理解中的异质性反应
Hypergraph Multi-modal Large Language Model: Exploiting EEG and Eye-tracking Modalities to Evaluate Heterogeneous Responses for Video Understanding
基于摘要分析。该研究面向不同人群对广告视频创意与内容理解存在差异的问题,提出 Subjective Response Indicators for Advertisement Videos 数据集 SRI-ADV,并设计 Hypergraph Multi-modal Large Language Model(HMLLM),用于关联人群特征、视频元素、EEG 与眼动指标,研究个体间的主观反应与认知理解差异。 数据与任务:作者指出,现有相关基准存在模态有限、回答长度受限,以及视频内容和情境较单一等问题。SRI-ADV 采集不同人口群体观看相同视频内容时的 EEG 与眼动区域变化,并据此设计分析和评估不同用户视频内容理解程度的任务与协议。摘要未提供被试数量、视频规模、人口群体分布、主观回答标注方式及训练测试划分,因此尚不能判断数据覆盖范围与跨被试泛化能力。 方法机制:HMLLM 以超图多模态建模探索人群、视频元素及生理与行为指标之间的关联。作者称其能够弥合模态间的语义差距,并整合多模态信息进行逻辑推理。超图节点与超边定义、EEG 和眼动编码方式、与大语言模型的连接机制、训练目标及推理输入均尚未验证,不能据摘要进一步确定具体实现。 结果与边界:作者报告,在 SRI-ADV 及其他基于视频的生成性能基准上开展的实验支持方法有效性,但摘要未给出具体指标、数值、对照基线或统计信息。阅读全文时需重点核对 EEG、眼动和人口特征各自带来的增益,以及个体差异评估的标签定义与划分协议。这项工作的主要对象是多模态视频理解和主观反应评估,不能据此认定其已验证 BCI 控制或 EEG 解码性能。 复现条件:摘要表示代码与数据将发布,当前材料不足以确认实际开放状态;实验协议、消融及统计信息尚未验证。
值得关注其以 EEG、眼动和视频内容联合研究个体主观理解差异的数据与评估设计,但 HMLLM 中生理信号的实际贡献仍需结合全文的对照与消融核验。
来源:OpenReview · EEG · openreview.net