跳到正文
OpenReview · State space models· Daniel Geissler; Lars Krupp; Vishal Banwari; David Habusch; Bo Zhou; Paul Lukowicz; Jakob Karolus·· 2025-12-31精选AI 评分72

Human in the Latent Loop(HILL):通过人类直觉交互式引导模型训练

Human in the Latent Loop (HILL): Interactively Guiding Model Training Through Human Intuition

AI 导读

基于摘要分析。本文研究如何将人类对任务领域的直觉融入机器学习模型训练,提出交互框架 HILL,让用户通过调整潜在空间表示来引导模型,而非仅观察模型的表示结构。主要贡献是将交互修改接入训练循环,并考察人类干预的策略与偏见风险。 机制上,HILL 使用受知识蒸馏启发的方法,将用户修改后的表示视为教师信号,引导模型重塑自身的潜在表示。摘要未说明具体交互操作、表示维度、教师信号构造、损失形式或模型架构,不能据此归类为特定 State space model 方法。该机制依赖可供用户理解和操作的表示,以及将修改映射回训练目标的有效约束;具体数据结构、监督条件与训练规模尚未验证。 评估采用用户研究,要求参与者训练一个最优模型,并观察其使用的策略。作者报告,人类引导的潜在空间修改能够改善模型性能并保持泛化,同时存在引入用户偏见的风险。摘要未提供任务、数据集、参与者人数、划分、对照基线或指标数值,实验协议、消融及统计信息尚未验证,因此尚不能判断收益大小、稳定性或交互成本。 平台推测(待验证):若 EEG 表示可被可靠地呈现并操作,这一机制可能用于研究专家反馈能否纠正与任务无关的表示结构,而不是作为已证实的 BCI 改进。可复用部分是交互反馈与教师引导训练的连接方式;需改造 EEG 编码器、表示可视化及修改约束。低信噪比、通道差异、跨被试变异和小数据可能使用户误将噪声或被试特征视为任务结构。一个可证伪的小实验是在固定 Cross-subject 划分下,对比相同编码器的无干预训练与 HILL 式专家干预,统一训练和交互预算,检验预先指定的分类指标是否改善,并核对是否损害留出被试表现。已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是 HILL 将用户对潜在空间的交互修改作为类似知识蒸馏的教师信号纳入训练,并通过用户研究考察性能、泛化与人为偏见之间的关系;其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net