跳到正文
arXiv · 学习目标与优化· Yacine Benihaddadene; Milan Bhan; Eliot Dugelay; Mohammed Jawhar; Benjamin Wong; Nicolas Chesneau; Duong Nguyen·· 4 天前精选AI 评分74

TICDA:表格上下文数据归因

TICDA: Tabular In-Context Data Attribution

AI 导读

基于摘要分析。该研究关注表格基础模型(TFMs)在不更新参数的上下文学习中,单个带标签示例如何影响预测。作者提出 TICDA,利用在 TFM 潜在嵌入上训练的线性代理模型,直接估计各上下文示例的影响,为识别低质量示例和筛选上下文提供依据。 核心机制与对照:摘要指出,DemoShapley 等重采样归因方法需要组合数量的前向计算,而传统影响函数依赖训练样本对模型参数的作用,难以直接适用于不更新参数的上下文学习。作者报告,TICDA 可在单次前向计算中以可忽略的额外成本完成归因。线性代理的拟合目标、所用嵌入位置、归因定义及单次前向计算的具体成本口径尚未验证。 作者报告,TICDA 在四类任务中相较竞争方法取得最佳折中:检测标签错误;筛选上下文,在保持预测准确性的同时降低推理成本;生成可跨 TFM 迁移的归因分数;支持高效主动学习的样本获取策略。摘要未提供数据集、模型名称、划分、对照配置或定量指标,因此不能判断优势幅度或适用范围;实验协议、消融及统计信息尚未验证。 平台推测(待验证):迁移假设是,将 EEG 特征组织成表格,并以带标签试次作为 TFM 上下文后,TICDA 可能帮助识别影响预测的试次或压缩上下文。可复用的是嵌入归因与上下文筛选思路,需改造的是 EEG 特征表示、通道对齐及被试划分。低信噪比、小样本和跨被试分布差异可能使线性代理不稳定,归因也可能把有效但罕见的试次误判为低质量样本。可在固定的 Cross-subject 划分下,向训练上下文注入已知标签错误,比较 TICDA 与随机筛选的错误检出能力、预测表现及推理成本;这不构成已验证的 EEG 效果,已有 EEG 相关工作尚未检索确认。

阅读价值

值得核对 TICDA 如何利用潜在嵌入上的线性代理高效估计上下文示例影响,以及归因分数在标签纠错、上下文筛选和跨 TFM 迁移中的有效性;摘要中的比较结论尚需全文实验支持。

来源:arXiv · 学习目标与优化 · arxiv.org