CLeVeR:面向漏洞代码表征的多模态对比学习
CLeVeR: Multi-modal Contrastive Learning for Vulnerability Code Representation
基于摘要分析。CLeVeR 面向自动化代码漏洞检测,针对现有代码表征偏重整体语义、难以捕获漏洞特定语义的问题,利用漏洞描述作为监督,通过多模态对比学习构建漏洞代码表征。其主要研究对象是代码与自然语言漏洞描述,而非 EEG 或 BCI。 方法包括 Adapter、Representation Refinement module 和 Description Simulator,分别用于缓解代码与描述之间的语义错位、语义不平衡,以及预训练与微调阶段的输入数据不一致。摘要未说明具体对比损失、样本配对策略、模块结构,以及推理时是否需要真实漏洞描述,这些机制细节尚未验证。 作者报告,在漏洞检测与漏洞分类任务上,F1 分别为 72.82% 和 80.34%;其中检测结果来自摘要所称的真实世界数据集。作者还报告,模型在零样本推理中优于所比较的方法,但未提供对应数值。摘要未给出数据集名称、划分方式、对照基线及 F1 的平均方式,因此不能据此判断不同结果的可比性。摘要所述相对既有方法的提升,其百分比与百分点口径也需核对正文。 实验协议、消融及统计信息尚未验证。复现时需核对漏洞描述的构建与使用阶段、预训练与微调的数据关系,以及 Description Simulator 的具体作用。材料未提供与 EEG/BCI 的具体机制对应关系,不能据此推断其在神经信号表征中的有效性。
值得核对漏洞描述监督与 Description Simulator 如何共同改善任务特定表征及预训练—微调输入不一致问题,但摘要不足以确认各模块贡献及零样本迁移的适用边界。
来源:OpenReview · Representation learning · openreview.net