跳到正文
OpenReview · Representation learning· Anran Hao; Anh Tuan Luu; Siu Cheung Hui; Jian Su·· 2023-01-01精选AI 评分73

通过语义类型原型表示建模实现事件检测的对比学习框架

A contrastive learning framework for Event Detection via semantic type prototype representation modelling

AI 导读

基于摘要分析。本文研究自然语言事件检测(Event Detection,ED),针对事件表达多样、事件提及与目标类型之间语义关联难以建立的问题,提出 Contrastive Semantic Prototype Representation Learning Framework for Event Detection(SemPRE)。其核心贡献是利用预定义事件类型标签中的词语语义指导表示学习,而不是仅以 one-hot 向量编码类别。 机制上,SemPRE 使用预训练 BERT 将文本与事件类型融合到联合表示空间,并通过对比正则化模块增强不同类型之间的交互。该方法依赖文本输入、具有语义的类型标签及事件检测标注;原型的具体构造、对比样本组织、损失形式与训练流程尚未验证。 作者报告,在 ACE 2005 和 MAVEN 基准上,SemPRE 达到当时的最先进性能,并在有限标注数据、未使用额外外部资源的条件下优于已有基线;进一步分析显示,该方法也能有效处理多事件和歧义触发词。摘要未提供具体指标、分数、数据划分或基线配置,“外部资源”的界定及其与预训练 BERT 的关系也需查阅正文。实验协议、消融及统计信息尚未验证。 平台推测(待验证):可迁移的假设是,具有语义的类别描述可能为少样本 EEG 分类提供类别侧先验,而不是将自然语言事件检测直接等同于 EEG 事件检测。可考虑复用标签语义原型与对比约束,将文本输入编码部分替换为 EEG 编码器,并增加信号与类别语义的对齐机制。主要风险在于类别词义不一定对应可辨识的 EEG 模式,低信噪比、跨被试差异和通道变化也可能破坏对齐。一个小规模可证伪实验是在固定的少标注跨被试 MI 划分中,对比真实类别描述、随机打乱描述和不使用语义原型三种设置,保持其余训练条件一致,检验语义本身是否带来稳定收益。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其利用事件类型标签语义构造原型并进行对比正则化的机制,作者报告了有限标注条件下的优势,但具体增益与其对 EEG 任务的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net