跳到正文
OpenReview · Representation learning· Qi Zhu; Da Zheng; Xiang Song; Shichang Zhang; Bowen Jin; Yizhou Sun; George Karypis·· 2024-01-01精选AI 评分74

面向图表示学习的大语言模型参数高效调优

Parameter-Efficient Tuning Large Language Models for Graph Representation Learning

AI 导读

基于摘要分析。本文研究文本丰富图上的表示学习,提出 Graph-aware Parameter-Efficient Fine-Tuning(GPEFT),旨在以可负担的微调成本,将图结构信息融入 LLM 的节点表示;主要研究对象是带有丰富节点或边文本的图,而非 EEG 或 BCI 信号。 核心机制是用 GNN 编码邻居节点的结构信息,生成置于文本序列开头的图提示。作者通过预训练 GNN,使其辅助冻结的 LLM 预测节点文本中的下一个 token,以改善图提示质量。与已有 GNN 和语言模型联合建模方法相比,作者强调直接从 LLM 生成节点嵌入。摘要未明确完整微调阶段的可训练参数范围、损失细节及推理流程。 作者报告,在 8 个文本丰富图的链路预测评估中,hit@1 和 Mean Reciprocal Rank(MRR)平均提升 2%;摘要未明确该提升是相对百分比还是百分点,也未给出逐数据集结果、具体对照及划分,因此不能进一步量化优势。作者还报告该方法可与 OPT、LLaMA 和 Falcon 集成。数据集名称、训练资源、实际时间与显存成本、消融及统计信息尚未验证。 平台推测(待验证):该机制可能适用于同时具有可靠文本描述与图连接关系的神经科学数据,其对应瓶颈是结构信息与文本语义的联合表示,而非直接解决 EEG 波形解码。可复用部分是 GNN 图提示与冻结 LLM 的接口;需要另行定义节点、边及可信文本,若输入是原始 EEG,还需独立信号编码模块。低信噪比、跨被试连接差异、通道布局变化及小样本下不稳定的图结构均可能使迁移失效。一个可证伪的小实验是在固定跨被试划分与相同文本输入下,对比真实图提示、打乱连接的图提示和无图提示,检查结构是否提供独立增益。已有 EEG 相关工作尚未检索确认,原论文结果不构成 BCI 有效性的证据。

阅读价值

值得关注其通过 GNN 生成图提示、在冻结 LLM 的条件下融合邻域结构与节点文本的参数高效路径,但摘要所报链路预测收益的具体协议和计算成本仍需核对。

来源:OpenReview · Representation learning · openreview.net