跳到正文
OpenReview · Representation learning· Anran Hao; Haohan Yuan; Siu Cheung Hui; Jian Su·· 2024-01-01精选AI 评分72

面向生物医学事件触发词检测的有效类型标签协同表征学习

Effective type label-based synergistic representation learning for biomedical event trigger detection

AI 导读

基于摘要分析。本文研究生物医学文本中的事件触发词检测,提出 Biomedical Label-based Synergistic representation Learning(BioLSL),通过建模预定义事件类型标签与触发词、句子上下文的语义关联来增强表征。研究对象是文本事件抽取,而非神经信号解码或 BCI。 BioLSL 包含三个模块:Domain-specific Joint Encoding 使用基于 transformer 的领域预训练架构联合编码输入句子与事件类型标签;Label-based Synergistic Representation Learning 学习文本与标签之间的语义关系,生成 Label-Trigger Aware Representation(LTAR)与 Label-Context Aware Representation(LCAR);Trigger Classification 进行考虑相邻标签关系的结构化预测。摘要未说明具体预训练模型、损失函数或结构化解码实现。 作者报告,在 MLEE、GE09 和 GE11 三个 BioNLP 基准上,BioLSL 优于所比较的基线,并达到作者所称的最先进性能;作者还报告,其在训练数据有限时表现良好。摘要未给出具体指标、分数、数据划分及小数据采样比例,因此无法量化增益。作者称模型无需外部资源;这一表述应结合其使用领域预训练架构理解,具体资源边界仍需核对全文。实验协议、消融及统计信息尚未验证。 平台推测(待验证):可检验的迁移假设是,将任务标签的语义表征与 EEG 信号表征对齐,可能为小数据分类提供先验;这不同于原论文中词语与事件标签的直接语义联系。迁移时需要引入 EEG 编码器,重新设计标签—信号交互,不能直接复用文本触发词及相邻标签预测机制。EEG 低信噪比、跨被试与通道差异,以及 MI 等类别名称与信号模式之间较弱的语义对应,都可能使该假设失效。一个小规模可证伪实验是在固定 EEG 编码器、数据划分和训练预算下,对比真实标签描述、无语义类别标识及打乱标签描述,检验标签语义是否确实贡献增益。相关 EEG 工作尚未检索确认。

阅读价值

值得关注其将事件类型标签语义与触发词、句子上下文联合建模的机制,以及作者报告的小数据场景表现,但具体增益及其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · Representation learning · openreview.net