跳到正文
OpenReview · State space models· Wenjia Xie; Hao Wang; Luankang Zhang; Rui Zhou; Defu Lian; Enhong Chen·· 2024-09-26精选AI 评分73

打破确定性:使用离散状态空间扩散模型对序列推荐进行模糊建模

Breaking Determinism: Fuzzy Modeling of Sequential Recommendation Using Discrete State Space Diffusion Model

AI 导读

基于摘要分析。本文研究序列推荐(Sequential Recommendation,SR):根据用户历史行为序列预测其可能感兴趣的物品。作者从信息论视角讨论用户行为的随机性与不可预测性,提出 DDSR,以交互序列的模糊集合描述用户兴趣演化,而非仅采用确定性的序列表示。 核心机制是离散状态空间中的扩散转移过程。与在连续域运行的 DDPM 不同,DDSR 使用结构化转移处理离散数据;作者认为,这比任意引入噪声更适合保留交互信息。为缓解巨大离散空间带来的矩阵变换开销,方法使用量化或 RQ-VAE 产生的语义标签替代物品 ID,作者称其可提高效率并改善冷启动问题。摘要未说明模糊集合的具体构造、转移矩阵参数化、损失函数及训练和推理流程。这里的“状态空间”指离散扩散状态空间,不能据此推断其采用常见序列状态空间模型的架构。 作者报告,在三个公开基准数据集的多种设置下,DDSR 优于现有最先进方法;但摘要未给出数据集名称、划分方式、评价指标、具体数值及对照方法,因此无法判断增益大小或协议可比性。实验协议、消融及统计信息尚未验证;代码与复现配置亦尚未验证。 平台推测(待验证):可迁移的假设是,结构化离散扩散可能适用于已被量化为语义 token 的 EEG 序列,以建模状态转移的不确定性,而非直接处理连续 EEG 波形。该路径依赖稳定的离散表示;扩散转移与语义编码思路可供参考,但量化器、状态定义及任务监督需重新设计。低信噪比、跨被试差异、通道变化和小数据可能使离散编码不稳定,或导致量化丢失判别信息。一个可证伪的小实验是在固定 EEG 任务与被试划分下,共用同一量化器,对比确定性 token 序列模型与结构化离散扩散模型,并核对量化信息损失及任务指标是否改善。原推荐结果不构成 BCI 有效性证据,已有 EEG 相关工作尚未检索确认。

阅读价值

值得阅读的是 DDSR 如何通过离散状态空间中的结构化扩散转移建模序列不确定性,并用语义标签缓解大离散空间的计算负担;其优势目前仅有摘要层面的作者报告,EEG/BCI 适用性尚未验证。

来源:OpenReview · State space models · openreview.net