跳到正文
OpenReview · State space models· Guoqing Hu; An Zhang; Shuo Liu; Zhibo Cai; Xun Yang; Xiang Wang·· 2025-01-01精选AI 评分76

AlphaFuse:在语言嵌入的零空间中学习用于序列推荐的 ID 嵌入

AlphaFuse: Learn ID Embeddings for Sequential Recommendation in Null Space of Language Embeddings

AI 导读

AlphaFuse 面向序列推荐,提出在语言嵌入的零空间中学习物品 ID 嵌入,以融合语言语义与用户行为信号,同时减少语义空间退化及对辅助可训练模块的依赖。以下基于摘要分析,未取得论文全文。 原问题是:将高维语言嵌入映射到低维 ID 嵌入可能损害语义信息,现有方法也可能未充分利用语言嵌入,并依赖 adapter 等模块连接语义空间与行为空间。AlphaFuse 使用 Singular Value Decomposition(SVD)分解语言嵌入的语义空间,将其区分为语义丰富的行空间与语义稀疏的零空间;协同信号被注入零空间,行空间中的语义则予以保留,并纳入最终物品嵌入。作者称该策略无需辅助可训练模块,可适配不同序列推荐框架;这不等于整个推荐模型无需训练。 作者报告,在三个基准数据集上开展了实验,覆盖冷启动用户和长尾设置,并在判别式及基于扩散的生成式序列推荐器中取得显著改善。摘要未提供数据集名称、划分、对照方法、指标或具体数值,因此无法核对改善幅度及统计意义。SVD 的矩阵构造、秩与零空间选择、训练目标、消融及统计信息尚未验证。作者提供了代码与数据链接,但其可访问性和复现完整性尚未验证。 平台推测(待验证):其可迁移机制是将固定语义表征与任务相关更新分配到不同子空间,而非推荐结果本身。假设 EEG 任务具备可对齐的任务文本或类别语义嵌入,可尝试复用 SVD 分解和子空间约束,另行设计 EEG 编码器及信号—语义对齐模块;推荐中的物品 ID 与协同监督不能直接照搬。主要风险是语言零空间未必对应有效神经信息,低信噪比、跨被试及通道差异可能使受限更新难以适应,小数据下子空间估计也可能不稳定。一个可证伪的小实验是在固定跨被试划分、相同 EEG 编码器和监督数据下,对比无约束更新与零空间约束更新,检查分类性能及语义保持是否同时受益。相关 EEG 工作尚未检索确认。

阅读价值

值得核对 AlphaFuse 如何通过 SVD 子空间分解分离语义保留与协同信号学习,以及这一约束在冷启动用户和长尾推荐中的收益;其对 EEG/BCI 的适用性尚未验证。

来源:OpenReview · State space models · openreview.net