面向实体解析的低成本上下文学习:设计空间探索
Cost-Effective In-Context Learning for Entity Resolution: A Design Space Exploration
基于摘要分析。本文研究实体解析(Entity Resolution,ER)中如何降低大语言模型上下文学习(In-Context Learning,ICL)的调用费用,提出 BATCHER 框架,将示例选择与问题批处理结合,并探索批量提示的设计空间。研究对象是数据集成中的实体匹配,而非 EEG 信号建模或 BCI 解码。 原问题在于:基于预训练语言模型(PLMs)的 ER 方法通常需要用大量已标注的匹配/不匹配实体对进行微调;已有 LLM 上下文学习方法则往往为每个待判断实体对重复提供任务描述和示例,产生较高调用费用。BATCHER 围绕 demonstration selection 与 question batching 两个环节组织批量提示,并提出基于覆盖的示例选择策略,以权衡匹配准确性与费用。摘要未说明覆盖对象、选择目标的数学形式、批次构造规则及提示模板,具体实现尚未验证。 作者报告,在实体解析实验中,批量提示相较于使用大量标注数据微调的 PLM 方法,以及人工设计提示的 LLM 方法,具有较好的成本效益,并据此提供批量提示设计选择的建议。但摘要未给出数据集、模型版本、数据划分、准确性指标、费用口径或数值结果,因此不能量化节省幅度,也不能判断不同方法是否处于可直接比较的评估条件;实验协议、消融及统计信息尚未验证。 复现需核对示例池及其标签来源、覆盖策略、批量大小、上下文长度、输出解析方式,以及各基线的训练与推理成本核算。该机制依赖可放入文本上下文的实体记录和已标注示例,现有材料未建立其与 EEG 解码瓶颈的具体对应关系,故不据此提出 BCI 迁移效果或实验方案;已有 EEG 相关工作尚未检索确认。
值得阅读其如何联合设计示例选择与问题批处理来权衡实体解析的匹配准确性和 LLM 调用费用,但具体收益及复现条件仍需全文核对。
来源:OpenReview · State space models · openreview.net