跳到正文
OpenReview · State space models· Daniel Geissler; Lars Krupp; Vishal Banwari; David Habusch; Bo Zhou; Paul Lukowicz; Jakob Karolus·· 2025-12-31精选AI 评分71

Human in the Latent Loop(HILL):通过人类直觉交互式引导模型训练

Human in the Latent Loop (HILL): Interactively Guiding Model Training Through Human Intuition

AI 导读

基于摘要分析。该研究面向机器学习模型潜在表示难以理解和调整的问题,提出交互框架 HILL,让用户通过重塑潜在空间,将领域直觉引入模型训练。其核心贡献是采用受知识蒸馏启发的机制,把用户修改作为“教师”,引导模型调整自身的潜在表示,而不只是将潜在空间用于可视化。 作者通过用户研究,让参与者尝试训练最优模型,并观察其干预策略。作者报告,在该用户研究的评估条件下,人类引导的潜在空间修改能够改善模型性能并保持泛化,同时也存在引入用户偏差的风险。摘要未提供具体任务、数据集、参与者人数、模型类型、量化指标及对照设置,因此无法判断收益大小及适用边界;交互表示方式、蒸馏目标、训练更新流程、实验协议、消融及统计信息尚未验证。 平台推测(待验证):其机制可能用于研究 EEG 表示学习中的专家交互校正,例如检验专家能否通过调整潜在样本关系,减少模型对伪迹或被试差异的依赖。但这依赖潜在空间可被有意义地理解和编辑;原研究所需的数据结构、监督信息及数据规模尚不明确。可考虑复用交互编辑与教师指导思路,EEG 编码器、编辑约束和训练目标则需适配。低信噪比、通道差异及小样本条件可能使用户将噪声或被试特征误判为任务结构。 一个可证伪的小实验是假设专家编辑确有帮助:在固定 EEG 编码器、训练预算和跨被试划分下,仅允许编辑训练集表示,对比无编辑、专家编辑与随机编辑,并在未参与编辑的被试上检验任务指标及偏差变化。该方案不是原论文已验证的结果;已有 EEG 相关工作尚未检索确认。

阅读价值

值得关注的是 HILL 将用户对潜在空间的交互修改转为类似知识蒸馏的训练指导,并通过用户研究考察性能、泛化与人为偏差之间的关系;具体收益及 EEG 适用性尚未验证。

来源:OpenReview · State space models · openreview.net